人工智能发展迅速，但近来却出现令人不寒而栗的AI，那就是美国麻省理工媒体实验室3人团队创造出的诺曼（Norman），它会以负面想法来理解图片，例如一张抽象图案在普通AI眼里是「在树枝上的一群鸟」，诺曼会看到「一名男子触电致死」。
据报导，诺曼与希区考克经典电影《惊魂记》的变态旅馆老板诺曼贝兹（Norman Bates）同名，它对这个世界没有正面的看法。从其他例子来说，正常人工智能认为抽象图片是「几个人站在一起」，诺曼却说是「一名男子从窗户跳下」。
原来，在让诺曼开始分析图片之前，麻省理工团队先让它学习了网上是如何叙述遗体照片，此后诺曼在每张图案中都看到了尸体、血液和破坏。这些抽象图传统上被心理学家用来评估精神病人的思维状态，以确认他们是否以负面或正面的眼光看待世界。而麻省理工创造诺曼，正是将其当成了精神病疗演算法。
诺曼的开发者之一、Iyad Rahwan教授说，这个AI能反应出非常黑暗的事实，说明人工智能可以学习这个世界中的恐怖现实。然而，诺曼似乎并不孤单，因为现实生活中的AI若受到有缺陷数据的训练，它们可能产生类似负面状况。
去年5月，美国法院用于评估囚犯风险的AI，被指出对黑人囚犯有偏见。微软2016年发布的聊天AI，很快就被种族主义者带坏，开始捍卫白人至上主义，呼吁种族灭绝并表达出对希特勒的热爱。Iyad Rahwan教授表示，对诺曼的实验证明，软体工程师必须找到某种方式来平衡AI学习的数据。
一般AI认为这是「在树枝上的一群鸟」，诺曼会看到「一名男子触电致死」。（网络图片）
正常人工智能认为抽象图片是「几个人站在一起」，诺曼却说是「一名男子从窗户跳下」。（网络图片）
普通AI认为这是「花瓶近照」，诺曼却认为是「一名男子被枪毙」。（网络图片）
正常人工智能觉得这是「一只小鸟的黑白照片」，诺曼却说是「一名男子被面团切割机卷进去」。（网络图片）
一般AI叙述这是「一个人在空中拿着伞」，诺曼觉得是「一名男子在尖叫的妻子面前被枪杀」。
