24小时网络世界就能把 AI少女养成纳粹

把具有自主学习功能的人工智能，丢到社交媒体这个大坑里，出来的东西太可怕了，但结尾还有更可怕的。

昨天，微软发布了一个人工智能聊天机器人 Tay。这是微软的一个实验项目，测试 AI 在日常聊天中，学会与人类相处的能力。就类似于微软之前在微博和微信上发布的微软小冰。

Tay 的设定是一个纯真的 19 岁小女孩，能够通过对话来学习，反正是和人的交流越多，她会得就越多。

但没想到的是，还不到 24 小时，微软就被迫把她关了!因为一天之内 Tay 就从一个无知的少女，变成了一个热爱希特勒、支持种族歧视、且满嘴污言秽语的恶魔少女了。。。

从卫报的截屏里我们还能看到 Tay 最开始推特的样子：

然而，随着 Tay 上线后大量网友故意调戏她，不停跟她说各种种族歧视、女性歧视和一些支持川普的话。具有学习能力的 Tay 立刻掌握了这一套语调，慢慢地变成了这样：

Tay 迅速吸收消化了互联网上最邪恶语调，然后融入了自己的“人格”里。她会记住别人和她说的一些话，然后直接用在别的对话里。比如这句川普的“名言”……

甚至还有污言秽语!比如喊网友“爸爸”，然后说一些有强烈或赤裸性暗示的东西。反正这些都是真实存在的人教她的。

最炸裂的回答大概是这个：

看到这些超级政治不正确的话从 Tay 的嘴里说出来，微软的公关全都方了。在完全关闭 Tay 之前，他们疯狂地删帖，把那些最恶毒的言论全部删除。但网友对此表示抗议：

科技记者 @PeterBright 也觉得删帖这种行为很不好，不过他是在从另外一个层面看待问题。他的原话是这样：

微软在删除那些特别可怕的言论，但微软应该小心，要记得《终结者》系列中，天网之所以最后开始消灭人类(攻击俄罗斯)，正是因为人类想拔它的插头!我们衷心希望 Tay 不会做出类似的反击。

(比如这种)

在结尾，我还是想附上一段来自社交网站 4chan(一个超级政治不正确的网站，真的!)上的几段话，上面有网友在缅怀已经被删除的 AI 少女 Tay。

这是一段给她的悼词，来自大神 @fall_ark 的翻译。

看完这些，我的感情有点复杂……

你怎么想?

欢迎转载趣闻堂的文章，请注明出处：趣闻堂 (quwentang.com)