Sam Altman 最新专访:曝光回归内幕,首度回应 Q* 模型
一年前的今天,OpenAI 发布了 ChatGPT ,引发了人工智能的寒武纪大爆发。
技术进化的加速感越来越强,「见证历史」已经习以为常,伴随着兴奋、焦虑、担忧、反思……所有人似乎都在迫切翻开历史新的一页。
OpenAI 在经历最近一系列混乱后,今天也正式宣布了 Altman 的回归,而公司最大的投资者微软,也将作为非投票的观察员加入董事会。
同时 Altman 还接受了 The Verge 的专访,谈到了回归前的一些内幕,以及早前被曝光的 Q* 模型——那个被认为可能威胁人类的 AI 技术。
不过在这次采访中,Altman 多次拒绝回答人们最为关心的问题:究竟为什么他会被解雇?
当 OpenAI 董事会在解雇 Sam Altman 一天后,又请求他回归时,Altman 起初感到了抗拒、受伤和愤怒。他在电话中告诉记者:
我花了几分钟时间才从中走出来,克服了自我和情绪,然后想,‘是的,我当然想做这件事。’显然,我非常热爱这家公司,并且在过去四年半的时间里全心投入其中,但实际上,我花了更长的时间。我们在我非常关心的使命上取得了巨大进展,那就是安全且有益的人工智能。
以下是 The Verge与 对 OpenAI 首席执行官 Sam Altman 和首席技术官 Mira Murati 的完整采访,爱范儿略作编辑:
Q:Sam,我想首先谈谈一个显而易见的问题,那就是我们仍然不知道你最初为什么会被解雇。你认为你为什么被解雇?
Altman:董事会将在此处进行独立审查。我非常欢迎这一点。现在我没有太多要说的,但我期待了解更多。
Q:你认为董事会为什么说他们对你失去了信任?
Altman:这更适合他们回答。
Q:你刚才在 X 上说,「很明显,你和董事会成员之间存在真正的误解。」这些误解是什么?
Altman:我还没准备好谈论这个。我认为让这个审查过程进行非常重要。我很乐意谈论任何前瞻性的事情。我想会有一段时间,我非常乐意谈论这里发生的事情,但现在不是时候。
Q:你能告诉我你为什么现在不能谈论它吗?
Altman:我只是想让这个过程进行,不干预。
Q:你在给员工的信中提到了 Ilya Sutskever(OpenAI 的首席科学家)。你能告诉我为什么他改变了主意,决定和其他人站在一起吗?
Mira Murati:我们不知道。你得问 Ilya。
Q:Sam,回顾起来,让你回来的主要动力是什么?
Altman:这真的很有趣。周六早上,一些董事会成员打电话给我,问我是否愿意谈论这个问题。我的第一反应有点抗拒,就像,「天哪,我受伤了,我很生气,我认为这很糟糕。」
然后我几乎立即开始思考,显然,我非常热爱这家公司,并且在过去四年半的时间里全心投入其中,但实际上,我花了更长的时间。我们在我非常关心的使命上取得了巨大进展,那就是安全且有益的人工智能。但也是这里的人和所有对我们抱有巨大期望的合作伙伴,还有 Mira 和领导团队以及这里所有做出了不可思议工作的人。我花了几分钟时间才从中走出来,克服了自我和情绪,然后想,「是的,我当然想做这件事。」
Q:所以董事会要求你回来?
Altman:是的。
Q:你起初犹豫了吗?
Altman:不会太久。在那之后发生在我身上的事情让我有很多感觉。
Q:很明显员工支持你。你认为这有多大影响?
Altman:我们肯定是以一个更强大、更团结、更专注和承诺的团队走出这个过程。我认为我们之前就有很强的信念和专注,现在我认为我们有了更多。所以这是我对所有这些事情的一线希望。
在整个过程中,我们没有失去一个员工,一个客户。他们不仅在面对难以管理的增长时保持了产品的运行,还推出了新功能。研究进展继续进行。
Q:你想回到董事会吗?
Altman:尽管这听起来像一个公关说辞,但要说现在这不是我的重点领域。我有一堆非常困难、重要且紧急的工作要做。我想做好我的工作,但这不像(在)董事会或不在。现在我没有花时间思考这个问题。
Q:「改进我们的治理结构」意味着什么?非营利控股公司结构会改变吗?
Altman:这更适合董事会成员回答,但也不是现在。老实说,他们需要时间,我们将支持他们去思考。显然我们的治理结构有问题。找到解决这个问题的最佳方法需要一段时间。我完全明白为什么人们现在想要一个答案。但我也认为期待立即得到答案是完全不合理的。
Q:为什么你认为这是不合理的?我认为人们看到了关于发生了什么的很多模糊之处。看起来像是分歧,而不是不当行为或类似的事情。
Altman:哦,只是因为设计一个真正好的治理结构,尤其是对于如此有影响力的技术,不是一个一周的问题。这将需要真正的时间来思考,辩论,获得外部观点,进行压力测试。这需要一段时间。
Q:刚刚发生的事件是否会改变 OpenAI 对安全工作的方法?
Murati:不会。这与安全无关。
Q:关于你们最近取得的 Q* 模型突破的报道,那是怎么一回事?
Altman:对于那次不幸的泄露,我没有特别的评论。但其实我们之前一直在强调,就像两周前我们说的,一年前我们说的,更早之前我们说的——我们预计这项技术的进展将继续迅速,同时我们也期望继续努力弄清楚如何使其安全且有益。这就是我们以前每天起床的原因。这也是我们将来每天起床的原因。我认为我们在这一点上一直非常一致。
不评论任何具体的事情或项目,我们相信进步就是研究。你总有可能遇到障碍,但我们预计进步将继续显著。我们想与世界接触,弄清楚如何使这项技术尽可能好。
Q:最后一个问题。我确定你还在思考所有这些。我知道这一切都很新鲜。你从这整个事件中学到了什么?
我想我现在还没有一个简洁有力的回答。显然学到了很多,但我仍在努力理解这一切。我的意思是,肯定有很多可以说的,但我认为我现在还没有准备好……我现在只能给出一个冗长而杂乱的答案。
Altman: 好吧,我们以后再谈。
挂断电话后,Altman 几分钟后又打了回来:
我学到了公司真的可以在没有我的情况下正常运转,这是一件非常好的事情。我很高兴回来,别误会我的意思。但我回来时没有任何「哦,我必须做这个,或者公司需要我之类的」压力。
我自以为感觉很好,因为我要么是挑选了出色的领导者,要么是很好地指导了他们。感觉公司没有我也会完全没问题,团队已经准备好并且提升了,这感觉非常好。