下载客户端
下载客户端
关于我们 寻求报道 加入我们
公司 8-01 12:16

吓得赶紧关停!Facebook 的 AI “失控”聊嗨后,说的话研究员也不懂

i can i i everything else . . . . . . . . . . . . . .
balls have zero to me to me to me to me to me to me to me to me to

上面的内容,不是我睡着了,脸在键盘上滚过打出的字。

这是两个“失控”AI 自己发明的对话语言。

趁着人类不注意,俩 AI 聊了什么?

Facebook 人工智能实验室前不久做了个研究:让两个 AI 通过对话训练来学习人类的交流方式。这个测试目的是提高 AI 的语言能力,希望未来它们能和 Facebook 的用户做沟通。

但是聊着聊着,两个机器人就“嗨”了,不再受限于原有设定——用标准英语语法沟通,开始用研究员不懂的语句来对话。

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

(图自:independent

面对这些无语法结构的内容,研究员也没办法完全理解这两个 AI 到底在聊什么。最开始时候,研究员以为这是机器出现的偶然错误,但随后发现,这种聊天模式频繁出现。而且,只要 AI 用自己的这种聊天方式,最终双方总能达到预期的谈判结果。相反的,当研究员调整模型结构,强制纠正 AI 的语言后,Facebook 的数据显示,最终的对话效果并不优秀。

今年 6 月时,Facebook 就发现了这种现象出现,随后研究员做了人工干预调整。但或者是效果不佳,7 月 31 日,Facebook 决定关停这个 AI 系统。官方解释称,Facebook 希望 AI 能和人沟通提高效率,而不是让 AI 用人类不懂的语言相互沟通。

Facebook AI 语,真的可以称为“语言”吗?

在 Facebook 的 AI 有了自己的沟通方式后,不少人开始想一个问题:这些无结构的文本内容,真的可以称得上“语言”吗?仅从人类角度来看,这些文本并没有意义。宾夕法尼亚大学语言学教授马克·利伯曼(Mark Liberman)就此表示

“语言”二字具体如何使用,不是由语言学家来决定的。Facebook 的 AI 是否创造了语言,要看我们如何定义“语言”。比如说,语言学家会认为 Python、JavaScript 这类计算机语言并非真正的语言,但我们也会称之为“语言”。

那么,Facebook AI 所使用的语言(外媒称之为 Facebotlish),可以成为一种新的或会持续发展的语言吗?

马克·利伯曼给出了否定的答案。他表示,尽管还没有足够的信息能够解释这种情况,但 AI 的交流是完全基于文本,而人类语言来涉及到了口语表达和肢体动作,文本沟通是一种人为附加方式。也就是说,Facebook AI 的语言能力距离人类文明程度还很遥远。

利伯曼教授还表示,机器或系统自己在发展过程里开发出一个属于自己系统内沟通的方式,并且不会被人类打断,自己进化和发展几十年甚至几百年,这种情况在未来是会发生的。但他也认为,Facebook 的 AI 并不能代表这种未来趋势,因为它的水平还很低。

(图自:independent

尽管如此,Facebook 此前曾发表过一篇关于人工智能的研究论文,表示 AI 在学习了人类的谈判技巧后,他们的表现已经很像“人”。比如说,AI 会假装自己对某个特定的内容感兴趣,然后假装让步,以看似“牺牲”的方式获得更大的利益空间。像这次这两个 AI 的对话,从形式和语句来看,两个 AI 似乎在“争吵”,而谁都不肯让步于自己的“想法”。

AI 在训练过程里发明出自己的语言,Facebook 的 AI 并不是孤例。此前,Google 曾发现人工智能能通过翻译工具创造自己的沟通语言。

题图自:电影《终结者》

有好的产品或者项目希望我们报道,猛戳这里 寻求报道

文章评论(-)
后参与讨论
正在加载中

当创业者也 DIY “真人秀”,企业 CEO 也要走入“养成”时代吗?

8-01 13:28下一篇

苹果想通过禁用 FaceTime 逼用户升级,法官说我不同意

8-01 11:22上一篇