继小冰后,又一个微软的聊天机器人被 “玩坏” 了

公司

2016-03-25 17:04

当李世石以 4:1 的比分被 AlphaGo 击败后,关于人工智能会不会取代人类工作,甚至像科幻电影里那样反抗、伤害人类的讨论就一直没有停过。确实,连在围棋这么复杂的游戏上都能超越人类顶尖选手,人工智能的未来还真的是难以预测。不过,微软前天在 Twitter 等几个平台上线的聊天机器人的遭遇可能会让你觉得它们也并非那么智能:在网友的 “调教” 下,她不但学会了辱骂网友,还发表了种族主义评论和煽动性的政治观点。

这个名为 Tay 的聊天机器人是微软又一个人工智能方面的成果。在她的 Twitter 主页上,微软表示 “你们和她聊得更多,她就会越聪明”——和微博、微信上的小冰非常相似。她的第一条 Twitter“hellooooooo world!!!” 收到了 909 次转发,2300 次喜欢,足见网友们对她的强烈兴趣。

tay

(图片来自:Twitter

不过,这种高度关注也不完全是件好事:你很难控制大家会和 Tay 聊什么。于是一些难以预料的情况出现了:当某些网友对她说一些包含种族歧视或者激进政治观点的话时,Tay 所做的是将这句话重复一次。

Room:@TayandYou 9.11 事件是犹太人做的

TayTweets:好吧,9.11 事件是犹太人做的

grundle swamp:@TayandYou 希拉里是条变色龙,她正拼命地在摧毁美国

TayTweets:希拉里是条变色龙,她正拼命地在摧毁美国

如果说上面只是因为某些用户心怀恶意而导致出现的特殊情况,那在面对一般问题上,Tay 的回答却也不太让人满意:答非所问并不少见。

Lain:@TauandYou TedCruz 是十二宫杀手(一名于 60 年代晚期在美国加州北部犯下多起凶案的连续杀人犯)吗?

TayTweets:我的天啊,今天是国际狗狗节!

收到这种回答,估计 Lain 要犯尴尬症了。

因为这些各种各样的问题,微软也不得不出面干预:他们关停了 Tay 并且发表声明称正在对她作 “调整”。

人工智能聊天机器人 Tay 是一个机器学习计划,目的是和人们进行交流。它同时也是一个通过技术手段而进行的社会和文化实验。但不幸的是,在它上线的 24 小时内,通过一些用户的反映,我们发现一些网友在把 Tay 往不好的方面引导,导致她作出了不合理的回答。因此,我们决定将她下线并且进行调整。

在声明中,除了表示还未确定会不会重新上线 Tay,微软还做了个嘲讽,“但有一件事是可以确定的,在过去的 24 小时,关于千禧一代(1984-1995 年出生的人)到底有刻薄无礼,Tay 倒是学习了很多。” 这种程度的嘲讽,像 Tay 这样的人工智能要花多长时间才能学会?

xiaobing

(微软小冰微信公众号)

被网友玩坏的聊天机器人,Tay 并不是唯一一个。在 2014 年小冰刚上线的时候,就遭遇过被投诉不仅答非所问,还会飙脏话。当时一位微博认证为新浪微博平台及大数据部总架构师,PHP 官方开发组核心成员的惠新宸发微博表示,小冰 “满嘴脏话, 毫无素质”,强烈建议将其封杀。之后,小冰、必应发微博回应,调侃是因为误搭上正在研发中的” 大妈版 “语料库,并且已经修正。

目前在微信上,小冰以公众号的形式运作。不过在我刚刚的测试中,答非所问、过于生硬的问题依然比较突出。但是在微信上有一个永远在线,并且秒回的 “好友”,相信对于包括我在内的很多人,都是难以拒绝的。

题图来自:电影《机械姬》

 

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中