我不认为人工智能的进化必然是良性的。一旦机器人达到自我进化的阶段,我们就无法预测它们的目标是否与我们一致。

—— 史蒂芬·霍金

大声

2016-06-29 16:36

受益于人工智能进行交流的史蒂芬·霍金一次次地向人们警告,人工智能很危险。

在接受美国王牌脱口秀主持人拉里·金(Larry King)的采访时,这位英国物理学家表示,人工智能进化的速度比人类的角度更快,而这种进化可能朝着人们无法预知的方向发展。

我不认为人工智能的进化必然是良性的。一旦机器人达到自我进化的阶段,我们就无法预测它们的目标是否与我们一致。

人工智能究竟是天使还是恶魔?尽管业界各执一词,但存在这样一个共识:人工智能不能堕为一种专制力量,人类必须确保需人工智能的设计符合道德伦理规范。

说白了,就是技术不能落到坏人手上了。

于是避免人工智能失控的组织出现了——未来生命研究所(Future of Life Institute),这个由 Skype 联合创始人 Jaan Tallinn 和麻省理工学院教授 Max Tegmark 主导的组织,在去年召集了一众人工智能领域的专家签署了一封公开信:

我们认为,人工智能技术的健康发展,和给人类文明带来更多益处同样重要。我们发展人工智能系统必须在可控范围之内。

签署这封公开信的就有 Elon Musk 和霍金。

有趣的是,Elon Musk 曾在一次公开访谈说道:

就像所有的神话中画着法阵捧着圣水的邪恶巫师一样,每个巫师都声称自己可以控制恶魔,但没有一个最终成功的。

后评论

评论在审核通过后将对所有人可见

正在加载中

热爱 News Feed 与 Menu,正在努力让每天处理的信息量超过脂肪摄入量。

在移动设备优先的大环境下,国内互联网公司的内容消费衍生出了多种新的商业模式,它们不仅带来了多样化的营收,还让用户能够更好、更灵活地做出购买决定。

查看全文 —— 硅谷风投公司 A16Z

我只能说明年的巴展(巴塞罗那 MWC 大会)我们还会有更厉害的技术,不只展示一些通过供应链等合作获得的一些能力

查看全文 —— OPPO 副总裁沈义人

Twitch 用户一般一天不会多次打开 app,但他们观看时间会更长。我觉得这是健康的。就像我会去看电影,一次花上两小时,但这不意味着我对电影上瘾了。

查看全文 —— Emmett Shear,Twitch CEO

苹果和像麦当劳这样的连锁餐饮业其实都陷在类似的问题中:它们的健康营收增长数据背后都藏着潜在的需求问题。

查看全文 —— Sarah Halzack,《彭博社》评论员

一直以来,大部分人都默认下一个比尔·盖茨将会和上一个比尔·盖茨很像。当社会预设科技人才是某种人的时候,这种刻板印象就会反向打击年轻女性和有色人种加入科技行业。

查看全文 —— 梅琳达·盖茨,盖茨基金会联合创始人