下载客户端
下载客户端
关于我们 寻求报道 加入我们
公司 2016-9-01 00:51

机器崛起只是科幻,人工智能应遵循人类价值观

从过去的《银翼杀手》,到现在的《机械姬》,人工智能总会引发我们的黑暗想象。 但是,如果不把眼光放那么长,人工智能带来的危险很可能是无意中伤害人类或无法完美执行指令,而不是拥有自我意识并反抗人类压迫。为此,加州大学伯克利分校设立了新的人工智能研究中心,目的是构建更符合人类需求的人工智能。

这个名为“人类共处式人工智能中心”(The Center for Human-Compatible Artifical Intelligence)的地方于上周开始运转,其资金来自 Open Philanthropy Project。研究中心的主管是计算机科学家和人工智能专家 Stuart Russell。在卫报网站的采访中,Stuart Russell 认为,科幻作品的人工智能常常“不合情理和过于戏剧化”。

ex machina

(图片来自 madaboutmovies

“风险不会是突然生出了恶意的机器,” 他说,“重要的是,我们不会试图阻止那种事情的发生,因为,没有人真正了解意识是什么。”

2015 年,Russell 写了一封公开信。在信中,他呼吁说,研究人员不应该只专注于更加强大的人工智能,还要思考人工智能的社会效益。8000 多名科学家和企业家签名支持这封信件,包括霍金、马斯克和苹果的联合创始人沃兹。

目前,人工智能的应用范围是有限的,不会对现实社会造成很大的影响。一旦它成为现实中的决策工具,人类面临的风险就变大了。“一旦你把某种东西放到现实中,比如自动驾驶汽车、数字助手……一旦它们代表你购买物品、取消会面,那么,它们就必须遵循人类的价值观。” Russell 说。

ASIMO

(ASIMO,图片来自 sponkonit)

比如,有人制造了一辆自动驾驶汽车,命令它永远不要闯红灯,于是,汽车就黑了交通灯控制系统,把所有交通灯都变成了绿灯。在这个例子中,机器遵循了人类的命令,但是其后果却是人类未曾预料的,也不符合人类的意图。

“即使你限制了人工智能系统的能力,它也会试图找出漏洞,就像是我们找出税法的漏洞一样。你需要这样一个人工智能系统,它没有寻找漏洞的动机,” Russell 说,“问题不在于意识,而在于能力。你造出了特别擅于完成目标的机器,但在试图完成目标的过程中,它们会造成一些事故。”

Robot and Human

(图片来自 phys)

为此,Russell 的建议是,让人工智能系统观察人类行为,理解人类的目的,然后采取相应的行动,并从错误中学习。它不需要遵循大量的规则,而是要理解人类的真正意图。这样的话,即使人工智能系统超越了人类,它们也能够处于人类的控制之下。

不过,这并非易事,因为人类本身存在着太多的缺点。“人类是不理性、反复无常、意志薄弱、运算能力差的,而且每个人都不一样。有时候,人类是极端邪恶的,” Russell 说,“有些人是素食主义者,有些人特别喜爱鲜嫩的牛排。事实上,我们的行为远远谈不上完美。这才是真正的难题。”

题图来自卫报

有好的产品或者项目希望我们报道,猛戳这里 寻求报道

文章评论(-)
后参与讨论
正在加载中

【早报】Galaxy Note 7 电池爆炸致出货推迟 / 滴滴出租车变快车 / 苹果威胁欧盟要削减工作岗位

2016-9-01 08:03下一篇

不到一厘米,这款笔记本号称“业界最薄”

2016-8-31 21:18上一篇