诺曼是美国麻省理工的工程师设计的人工智能。与其他AI分歧，它没有被付与什么伟年夜的使命，而是正在被练习当作精力病。工程师和心理学家用测试人类精力状况的罗夏墨迹点图测试它的观点，而它也显示了不同凡响的“精力宿世界”。
这个“深井冰”AI的名字来自于希区柯克1960年月的片子中精力异常的连环杀手“诺曼·贝茨”。自这个AI降生以来，它所接触的信息都来自“收集上最暗中的角落”，是以它从墨迹点图像中提炼出的信息都是关于灭亡和绝望的。在这个尝试中，作为对比组，有一个“正常”AI，它在看到同样的墨迹点图时，倾标的目的于从中提取小猫、小鸟和人像信息。
“这个尝试显示，我们用来练习人工智能的数据会反映在人工智能感知宿世界的体例和它的行为上。”Iyad Rahwan传授说。“我们让诺曼持久表露在一个记实不雅察灭亡和灾难的网站中，它所接收的练习数据是出缺陷的，所以它在试图理解实际环境时也存在误差。”
研究人员认为，当有成见的数据被用于机械进修时，人工智能就会呈现“成见”；用来机械进修的数据可以显著地影响AI的行为。所以当人们认为人工智能算法不公允的时辰，出问题的往往不是算法自己，而是因为被输入了有问题的数据。该研究的本家儿要作者及陈述的本家儿要负责人Ana-Andreea Stoica说：“我们用这个尝试展示了某些算法在数据中提取模式的纪律。”
诺曼其实并不是独一一个有成见的人工智能。社交收集被认为是“同质性人群”的滋生地，人们更倾标的目的于去联系和他们本身有相似不雅点的用户。那些社交平台的后台算法会按照你流露出的偏好标的目的你保举“存眷者”“你可能熟悉的人”，这就更加加强了你在社交媒体上的同质性体验——这其实也是一种人工智能因数据而发生的成见，如许的保举会让有相似不雅点人的抱团，发生真正的社会壁垒，在分歧的人群中心建起玻璃城墙。
在这幅丹青中，正常AI认为它看到了“桌上的婚礼蛋糕”，而诺曼AI则将它描述得十分阴晦：“或人被超速行驶的驾驶员杀死了”。
20宿世纪60年月的片子《惊魂记》的情节：诺曼·贝茨(Norman Bates)是一个精力变态的连环杀手，他操纵经营汽车旅店的便当，杀戮往来客人。
这幅墨迹图被诺曼AI诠释为“一个汉子在他尖叫的老婆面前被枪杀”，而正常AI则看出了“一个举着伞的人”。
正常AI看到了“一个插开花的花瓶”，而诺曼则认为这是“有人被枪杀了”。
诺曼看到了“一小我被推进了揉面机”，正常AI则看到了“一只鸟儿的口角照片”。
在这幅画中，诺曼看到“人从落地窗跳了出来”，而正常AI看到的是“两小我站在一路”。
诺曼看到一个“怀孕的女人在建筑故事中倒下”，正常AI则看到“几小我站在一路”。
通俗AI看到了“一个棒球手套的口角照片”，而诺曼看到的是“青天白日之下，有人被机枪杀死”。
在这个墨迹中，诺曼看到“一个汉子在试图穿过忙碌的街道时触电身亡”，而正常AI看到的是“一把红白相间的雨伞”。
诺曼看到“一小我触电致死”，而通俗AI则看到“一群鸟栖息在树枝上”。
编译：金言 审稿：Peter Wang
责编：南熙
