# 吊打人类玩家的 OpenAI 又憋了个大招，可担心被滥用不敢发布

- 作者：李超凡
- 发布时间：2019-02-15 17:06
- 分类：产品
- 原文：https://www.ifanr.com/1173357

![](https://s3.ifanr.com/wp-content/uploads/2019/02/1540129749559.jpg)

这几天关于演员翟天临博士学位造假和论文抄袭的事情闹得沸沸扬扬，有人调侃如果翟天临如果在春节期间不眠不休把论文赶出来或许就没事了。

如果写个标题和开头，系统就能自动生成一篇合格的论文那该多好。这是多少为了毕业论文头秃的大学生的梦想，虽然这不值得鼓励，但 AI 已经开始能做到类似的事情了。

![](https://s3.ifanr.com/wp-content/uploads/2019/02/1523005119111.png)

▲翟天临肯定很想要一个这样的 AI



马斯克牵头成立的 AI 研究机构 OpenAI 最近发布了自然语言处理（NLP）模型——[GPT-2](https://blog.openai.com/better-language-models/)， 你只要为它提供一小段文字，它就能根据自己的理解来编写余下的内容，编小说写新闻都不在话下。

英国[《卫报》](https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction)在 GPT-2 上输入了作家乔治·奥威尔代表作《1984》的开头的第一句话：

> 四月间，天气寒冷晴朗，钟敲了十三下。

AI 接下来生成的文字虽然和小说原文不一样，却领悟到了原著的反乌托邦气质和未来主义气质，敲出了下面这些文字：

> 我在前往西雅图寻找新工作的路上，我把汽车启动，想象着那一天会是怎样。在 2045 年，100 年后的今天，我在中国贫困山区的一所学校担任教师，开始教中国历史和科学史。

OpenAI 研究团队甚至给了 GPT-2 一个看起来违反常识的观点——「为什么回收对世界没好处？」让其去论证这个观点，据 OpenAI 加州实验室副总裁 David Luan [表示](https://www.theverge.com/2019/2/14/18224704/ai-machine-learning-language-models-read-write-openai-gpt2) ，GPT-2 写了一篇十分不错的论文，「是在 SAT （美国高考）上都拿到高分的水准」。

![](https://s3.ifanr.com/wp-content/uploads/2019/02/machine_learning_snow12.gif)

▲GPT-2 正在生成一篇关于暴风雪的文章. 图片来自：OpenAI



不过这种创造力用在新闻撰写上就会出现一些问题，来看看这个 AI 根据一句话而[撰写](https://www.technologyreview.com/s/612960/an-ai-tool-auto-generates-fake-news-bogus-tweets-and-plenty-of-gibberish/)的新闻消息：

> 在唐纳德·特朗普意外地发射导弹后，俄罗斯向美国宣战。
> 
> 俄罗斯方面表示，已经确定了导弹的轨迹，并将采取必要措施，以确保俄罗斯人民和本国战略核武器的安全。白宫则表示，此举是为了回应俄罗斯违反《中程导弹条约》。
> 
> 自 2014 年莫斯科吞并乌克兰克里米亚地区，并支持乌克兰东部的分离主义分子以来，美国和俄罗斯的关系一直不稳定……

整篇新闻稿只有第一句是人工输入，后面全部都是 AI 脑补的，但这些内容不完全是虚构。俄罗斯确实在本月初[暂停履行《中程导弹条约》](https://www.bbc.com/zhongwen/simp/world-47104397)，不少媒体也表达了对美俄军备竞赛升温的担忧。

![](https://s3.ifanr.com/wp-content/uploads/2019/02/a-2.jpg)

虽然这明显是篇假新闻，但这种真假掺半的描述，同时契合了舆论的氛围，确实可能会让一些人信以为真，如果这种能力被用于批量生产假新闻，类似用「[ AI 换脸](https://www.ifanr.com/977830)」技术生产小黄片的事情可能再次发生。

这也出乎了 OpenAI 的预料，OpenAI 政策主管 Jack Clark 表示「无法预测这个模型所有的能力，你必须不断测试」，于是在发现这个工具可以轻易生产虚假消息和恶意内容后，OpenAI 选择不披露或者发布软件的复杂版本。

也就是说，现在看到的 GPT-2，其实并没有发挥全部的能力。

> 可能不久之后，AI 就能完全掌握编造假新闻、假推文和更具说服力的错误言论。我认为只要一两年，它就能用于造谣和宣传。

正是出于这样的担忧，OpenAI 在没有成熟的应对方案前决定不开放这项技术，同时希望学者和公众在这项技术被广泛应用前对这种技术潜在的风险有更多了解。

![](https://s3.ifanr.com/wp-content/uploads/2019/02/aifakenews.png)

尽管这可能是个潘多拉魔盒，但对于 AI 理解人类语言这个难题上却有很重要的意义。去年 Google 也推出了算法 BERT，它可以理解并回答问题，却不得不依赖人工制作的语法规则和精心标记的数据集辅助。

在通过国外论坛 Reddit 上800 万个帖子、15 亿参数的训练后，GPT-2 逐渐学会了像人一样阅读和理解，其输出所有内容不是简单的复制粘贴，而是在对素材理解后重新输出的新内容。

![](https://s3.ifanr.com/wp-content/uploads/2019/02/640-1.gif)

艾伦人工智能研究所的研究人员 Ani Kembhavi [表示](https://www.theverge.com/2019/2/14/18224704/ai-machine-learning-language-models-read-write-openai-gpt2)，之所以对 GPT-2 感到兴奋，是因为预测文本被视为计算机的「超级任务」，一旦解决这个问题，将开启新的大门。

这也是这项技术带来的积极一面，对于游戏中的虚拟角色和二次元里的虚拟偶像，可以更像一个人。同时也将大大提到人工智能客服的能力，减少大量人力成本。

![](https://s3.ifanr.com/wp-content/uploads/2019/02/her.jpg)

▲ 跟 AI 谈恋爱的日子可能不远了. 图片来自：电影 her



到底这项技术会给我们带来什么，连开发 GPT-2 的OpenAI 都不知道，不过如果你把这个问题抛给 GPT-2 ，它会给你一个[肯定的答案](https://www.vox.com/future-perfect/2019/2/14/18222270/artificial-intelligence-open-ai-natural-language-processing)：

> 人工智能正以最快速和最积极的方式改变我们的生活。AI 将允许机器人、计算机与我们一起工作，甚至可以使我们能够与其他智能代理一起工作，无论他们是人还是机器。
> 
> 这就是未来，人工智能正在引领我们走向想象中的未来。