科学家研制全球第一个精神变态的人工智能
- 新浪科技
- 2018-07-08 17:23
北京时间7月8日消息,据国外媒体报道,虽然人工智能是一种非常有趣的领域,能够实现各种行业自动化,并带来产业化加速发展。但是包括埃隆·马斯克(Elon Musk)在内的许多精英人士对于人工智能的能力持意见保留态度。之前马斯克曾警告称,现在人工智能进行监管“已为时过晚”,同时,人工智能倡导者马克·扎克伯格(Mark Zuckerberg)对人工智能产生的威胁理解非常有限。
美国麻省理工学院研究人员创造了“世界第一个精神变态人工智能”,它似乎沉迷于谋杀行为。
现在看来,马斯克的担忧有充分的理由,因为美国麻省理工学院研究人员创造了“世界第一个精神变态人工智能”,它似乎沉迷于谋杀行为。
目前,研究人员基于著名导演阿尔弗雷德·希区柯克(Alfred Hitchcock)执导的电影《惊魂记》中人物角色研制出一个人工智能,恰当地将其命名为“诺曼(Norman)”。与便捷人类生活的“白天鹅AI”相比,“诺曼”更像是一只“黑天鹅”,散发着黑色的忧郁。据悉,诺曼接受了“Reddit论坛最黑暗角落”数据的训练,之后研究人员使用“罗夏墨迹测验(Rorschach‘s inkblot tests)”检测诺曼的回答反应。
普通 AI:小鸟的黑白照片;诺曼AI:一个男人卷入机器之中。
以下是科学家对人工智能“诺曼”的描述——我们向你介绍诺曼,它是世界上第一个人工智能精神病患者,它持续接受“Reddit论坛最黑暗角落”数据的训练,它代表了一个真实案例:当存有偏见的数据应用于机器学习算法时,人工智能就会出错。
普通 AI:站在一起的两个人;诺曼AI:一个男人从窗户跳下。
“诺曼”是一款被训练执行图像字幕处理的人工智能,图像字幕处理是一种生成图像描述文字的深度学习方法。研究人员曾在Reddit论坛上数据训练过“诺曼”,据悉,Reddit论坛致力于记录和观察令人不安的死亡现实。之后我们使用一个标准的图像字幕神经网络在罗夏墨迹测验上进行比较分析,罗夏墨迹测验是一种用于检测潜在思维障碍的测试方法。
罗夏墨迹测验是以个人对墨迹感知为基础,使用心理学解释来分析反应结果。多年以来,这种测验方法存在着争议,被称为是一种“伪科学”,因为它依赖于心理学而不是实验数据。然而实验表明,“诺曼”的实验结果令人非常不安。
普通AI:近景拍摄插有鲜花的花瓶;诺曼AI:一个男人被枪杀的瞬间。
“诺曼”的目的是描述有偏见的训练数据,对人工智能给出的输出测试数据产生影响。同时,这个实验还提出一些关于未来人工智能应用的问题,尤其是它对无偏见数据的依赖程度。尽管如此,这仍然是一个被专注探索的科学领域,人们希望研究人员能将人工智能提升到未来每天有效正确处理日常问题的程度。
- 科学家
- 人工智能
相关文章
资讯
- 2天前
登场即控场 | 北岸控股初次登台2023数博会看点十足
- 3天前
未来智能全新录音降噪会议耳机iFLYBUDS Nano系列发布
- 4天前
用眼睛刷牙, usmile笑容加可视化电动牙刷Y10全新首发
- 4天前
未来智能发布全新录音降噪会议耳机iFLYBUDS Nano系列,VIAIM AI生成式会议助理值得期待
- 1周前
世界智能大会 | 泛能网携三大伙伴精彩亮相并达成战略合作
- 1周前
泛能网精彩亮相第七届世界智能大会,全力推进能碳产业数智转型
- 2周前
八分量参与编写的《金融业隐私计算互联互通技术研究报告》,现已正式发布
- 3周前
科技成就梦想!蓝宙科技勇做创新“先锋者”
- 3周前
AutoGPT是什么,有哪些优点及主要应用场景?
- 3周前
Southwest Antennas:领先的高性能固件天线设计商和制造商
- 1个月前
PICO联合21家媒体发起“VR看中国”系列活动,12天30余场VR直播畅游中国
- 1个月前
十年跨越 引领未来丨2023年投资促进与海归创业峰会盛大举办
- 1个月前
十年大成丨未来科技城百万方超级综合体完成最后一块拼图
- 1个月前
VR助力传统文旅打造新体验,不倒翁小姐姐走进 PICO VR直播间
- 2个月前
NVIDIA GTC23精彩启程,LCFC Edge AI重磅出新
原创
荐读
-
5G+AR加持 晨星机器人掀起“智能化+人机交互”制造新趋势
2021世界制造业大会于11月22日在合肥落下帷幕。为期四天的大会中,作为向世界展示智能制造全面能力的窗口,联想展示了一系列让人惊喜的创新产品。现场展示的ThinkPad X1 Fold整体重量仅有1公斤,折叠起来之后的厚度大约为24毫米。当保持半开状态时,可以像拿本书一样握住,并且能同时运行两个应用程序。使用固定在中间的键盘之后,瞬间变...
-
智能手机竞争中失败,日本在联网汽车领域举步维艰
据外媒报道,在制造带有数字联网服务的汽车的竞争中,丰田汽车和日产汽车面临着被本土市场拖累的风险。与美国和欧洲的汽车消费者不同的是,日本消费者不愿意为这些联网功能和服务买单。结果就是:日本只有10%的汽车...
-
2020年河南省将推广应用3万台工业机器人
到2020年,推广应用3万台工业机器人,建设1000条智能生产线、300个智能车间、150个智能工厂……4月16日,在2018两岸智能装备制造郑州论坛上,河南省工信委发布了《2017年河南省智能制造白皮书》,河南智能制造的2020...