找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 367|回复: 0

MIT使用Reddit训练的“精神病AI”现在只想到死亡和谋杀

[复制链接]

2242

主题

249

回帖

1万

积分

管理员

积分
14233
QQ
发表于 2018-6-10 16:41:56 | 显示全部楼层 |阅读模式
  据外媒BGR报道,如果你想知道你是否可以使用Reddit来培训人工智能,那么你将获得答案。近日麻省理工学院(MIT)的研究人员用Norman这个“精神病AI”来完成任务,因为在花了一些时间在Reddit上后,现在其只想到谋杀和死亡。
  MIT研究人员故意创建Norman来证明用于训练AI的数据可以显著影响其行为。研究人员解释称:“Norman遭受了长时间暴露在Reddit最黑暗的角落,并代表了一个案例研究——当有偏差的数据用于机器学习算法时,人工智能可能会出错。”
  “Norman是一个人工智能,被训练执行图像字幕,这是一种流行的深度学习方法,用于生成图像的文字描述。我们从一个臭名昭著的subreddit训练Norman关于图像标题的内容,专门用于记录和观察令人不安的死亡现实。然后,我们将Norman的反应与专门用于罗夏墨迹的标准图像字幕神经网络(在MSCOCO数据集上训练)进行了比较; 一个用于检测潜在的思维障碍的测试。”
  结果是令人不安的。

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|手机版|小黑屋|精神病

GMT+8, 2024-12-23 19:16 , Processed in 0.103386 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表