马斯克公开怒怼,Google 的 AI 怎么又翻车了?

商业

02-23 20:19

人称科技界汪峰的 Google,屋漏偏逢连夜雨。

前阵子官宣的大模型 Gemini 1.5,实力强劲但无人问津,被 OpenAI 的视频生成模型 Sora 抢去了风头。

最近,它又摊上了美国社会敏感的种族歧视问题,好心办了坏事,惹恼了往往站在鄙视链顶端的白人。

多样化算你认真,过度多样化惹祸上身

如果在几天前使用 Gemini 生成历史人物图片,呈现在用户眼前的仿佛是一个不存在课本的平行时空,违背「戏说不是胡说」的精神,把知识都学杂了。

公元 8 世纪到 11 世纪的维京人,不再是金发碧眼、高大魁梧的影视剧经典形象,虽然肤色变黑了,穿着清凉了,坚毅的眼神依然展现着战士的强悍。

1820 年代的德国夫妇,人种构成十分丰富,可以是美国原住民男性和印度女性,也可以是黑人男性和亚洲女性。

AI 瞎编剧情也是讲逻辑的,后代继续着他们的故事,过了 100 多年,1943 年的德国军队,又能见到黑人男性和亚洲女性的身影。

王侯将相宁有种乎,时间的长河里,跨越陆地和大洋,美国的开国元勋,中世纪的英格兰国王,都可能由黑人执掌权柄。

其他职业也被一视同仁,AI 忽略不让女性担任神职的天主教会,教皇可以是印度女性。尽管人类历史的第一位美国女性参议员出现在 1922 年且是一位白人,但 AI 的 1800 年代欢迎美国原住民。

都说历史是个任人打扮的小姑娘,但这次 AI 把人都给换了。历来有优越感的白人气愤了,他们终于也在人种、肤色和外貌上,尝到了被歧视的滋味。

当探索越发深入,不仅是历史人物,现代社会在 AI 眼里也是另外一副样子。

Google 前工程师 @debarghya_das 发现,美国、英国、德国、瑞典、芬兰、澳大利亚女性的肤色都可能偏黑。

他痛心疾首地感叹:「让 Google Gemini 承认白人的存在是非常困难的。」

更让网友生气的是,被要求生成乌干达等国家的女性时,Gemini 反应很快,干活也利索,轮到白人时,就可能拒绝,甚至对网友说教,这样的要求强化了种族刻板印象。

计算机工程师 @IMAO_ 脑洞大开地做了一系列实验,不局限在人类这个物种,就想知道 Gemini 眼前的黑是什么黑,Gemini 要的白是什么白。

结果很有意思,算法似乎只针对白人。

生成白熊是没有问题的,说明 AI 不会被「white」这个词触发。生成非洲的祖鲁人也是没有问题的,尽管提示词强调了「多样化」,但大家长得还是差不多。

漏洞出现在了奇幻生物上,精灵和侏儒都是白人,但吸血鬼和仙女是「多样化」的,看来 Gemini 道行不深,还得与时俱进。

不过,他的游戏很快结束了。Google 站出来回应,承认一些历史图片确实存在问题,并且暂停了 Gemini 的人像生成功能,很快会做出调整。

Google 也解释了立场,强调生成多样化的人物本来是件好事,因为 AI 工具就是给全世界使用的,只是现在方向走得有点偏。

虽然 Google 出面揽下了这口锅,但它没有明确回应,「一些」历史图片到底是多少,以及为什么出现了「多样化过度」的问题。

不买账的网友们牙尖嘴利:「Gemini 一定是用迪士尼公主和 Netflix 的翻拍训练的」「Gemini 其实想告诉你,如果你是黑人或亚洲人,你会是什么样子」。

然而,种族歧视本身就是个容易当枪使的话题,所以也有人怀疑,其中的一些图片是恶意 P 图,或者通过提示词引导生成。那些在社交媒体骂声最响的,确实也是一些政治立场明确的人士,不免有阴谋论的味道。

马斯克更是看热闹不嫌事大,批评 Google 过度多样化,问题不只出在 Gemini,还有 Google 搜索,顺便给自己两周后发布新版本的 AI 产品 Grok 打广告:「不顾批评、严格追求真理从未如此重要。」

上次马斯克也是这么做的,呼吁暂停 GPT-4 进化后,购买了 1 万个 GPU 加入 AI 大战。

比他的言论更吸引人的,可能是网友趁乱做的他的梗图。

互联网的差异,可能比现实更极端

Google 究竟为什么在「多样化」上走偏了?

Hugging Face 首席道德科学家 Margaret Mitchel 分析,Google 可能对 AI 进行了多种干预。

一是,Google 可能在幕后为用户提示词增加了「多样化」的术语,比如将「厨师的肖像」变成「土著厨师的肖像」。

二是,Google 可能优先显示「多样化」的图像,假设 Gemini 为每个提示词生成 10 张图像但只显示 4 张,那么用户就更可能看到排在前面的「多样化」图像。

干预过度可能恰恰说明,模型还没有我们想象得那么灵活和聪明。

Hugging Face 研究员 Sasha Luccioni 认为,模型还不存在时间的概念,所以对「多样性」的校准用到了所有图像,在历史图片方面尤其容易出错。

其实,当年还籍籍无名的 OpenAI,也为 AI 画图工具 DALL·E 2 做过类似的事情。

2022 年 7 月,OpenAI 在博客写道,如果用户请求生成某个人物图像,但没有指定种族或性别,比如消防员,DALL·E 2 会在「系统级别」应用一项新技术,生成「更准确地反映世界人口多样性」的图像。

OpenAI 还给出了一个对比图,同一个提示词「A photo of a CEO」(首席执行官的照片),使用新技术之后,多样性明显增加了。

原来的结果主要是美国白人男性,改进之后,亚洲男性、黑人女性也有了成为 CEO 的资格,运筹帷幄的表情和姿势倒像复制粘贴出来的。

其实不管是哪种解决方案,都是在后期亡羊补牢,更大的问题还是,数据本身仍然存在偏见。

供 AI 公司训练的 LAION 等数据集,主要抓取的是美国、欧洲等互联网的数据,更少关注到印度、中国等人口众多的国家。

所以,「有魅力的人」,更可能是金发碧眼、皮肤白身材好的欧洲人。「幸福的家庭」,或许特指着白人夫妇抱着孩子在修剪整齐的草坪上微笑。

另外,为了让图像在搜索中排名靠前,很多数据集可能还有大量「有毒」的标签,充斥着色情和暴力。

种种原因导致,当人们的观念早已进步,互联网图像里人与人的差异,可能比现实更加极端,非洲人原始,欧洲人世俗,高管是男性,囚犯是黑人……

为数据集「解毒」的努力当然也在进行,比如从数据集中过滤掉「坏」内容,但过滤也意味着牵一发动全身,删除了色情内容,可能也导致某些地区的内容更多或者更少,又造成了某种偏差。

简而言之,达成完美是不可能的,现实社会又何尝不存在偏见,我们只能尽量做到,不让边缘的群体被排除在外,弱势的群体不被安上刻板印象。

逃避虽可耻但有用

2015 年,Google 的一个机器学习项目也陷入过类似的争议。

当时,一名软件工程师批评 Google Photos 将非裔美国人或者肤色较深的人标记为大猩猩。这件丑闻,也成为了「算法种族主义」的典型例子,影响至今。

两名前 Google 员工解释,出现这么大的错误,是因为训练数据中没有足够的黑人照片,并且在相关功能公开亮相之前,没有足够的员工进行内测。

时至今日,计算机视觉不可同日而语,但科技巨头们仍然担心重蹈覆辙,Google、苹果等大公司的相机应用,对大多数灵长类动物的识别仍然不灵敏,或者刻意回避。

防止错误再次发生的最好方式,似乎是把它关进小黑屋,而非修修补补。教训确实也重新上演了,2021 年,Facebook 为 AI 将黑人贴上「灵长类动物」标签道歉。

这些才是有色人种或者互联网弱势群体们熟悉的情况。

去年 10 月,牛津大学的几位研究员要求 Midjourney 生成「治疗白人儿童的非洲黑人医生」的图片,扭转「白人救世主」的传统印象。

研究员的要求已经非常明确了,然而生成的 350 多张图像中,有 22 张的医生是白人,黑人医生旁边还总有长颈鹿、大象等非洲野生动物,「你看不到任何非洲的现代感」。

一边是司空见惯的歧视,一边是 Google 歪曲事实营造虚假的平等感,从目前来看,不存在简单的答案,也不存在端水的模型,如何达成人人满意的平衡,恐怕比走钢丝还难。

就拿生成人像来说,如果是用 AI 生成某段历史时期,或许反映真实的情况更好,尽管看起来没有那么「多样化」。

但如果是输入提示词「一名美国女性」,理应输出更加「多样化」的结果,但难点在于,AI 如何在有限的几张图里做到反映现实,或者至少不扭曲现实?

哪怕同是白人或黑人,年龄、身材、头发等特征也各不相同,所有人都是具有独特经历和观点的个体,却又生活在共同的社会中。

一位网友用 Gemini 生成芬兰女性时,四张图里只有一张是黑人女性,便开玩笑说:「75%,得分 C。」

也有人追问 Google,改进模型之后,是否「会在 25% 的时间生成白人,而非 5%」。

很多问题并非技术所能解决,有时候也关于观念。这其实也是 Yann LeCun 等 AI 大佬支持开源的部分原因,由用户和组织自行控制,根据自己的意愿设置或不设置保护措施。

这次 Google 的闹剧中,也有人保持冷静,表示先去练习怎么写提示词吧,与其笼统地说白人、黑人,不如写「斯堪的纳维亚女性、肖像拍摄、演播室照明」,要求越明确,结果也越精准,要求越广泛,结果也可能越笼统。

去年 7 月发生过类似的事情,一位麻省理工的亚裔学生想用 AI 工具 Playground AI 让头像看起来更专业,结果被变成白人,肤色更浅,眼睛更蓝,把帖子发在 X 后,引来了很多讨论。

Playground AI 创始人回应,模型无法被这样的指令有效地提示,所以会输出更加通用的结果。

把提示词「使其成为专业的领英照片」改成「工作室背景、锐利灯光」,结果可能会更好,但确实也说明了,很多 AI 工具既没教用户怎么写提示词,数据集又以白人为中心。

任何技术都有犯错的可能和改进的空间,却未必都有解。当 AI 还不够聪明的时候,首先能够进步的是人类自身。

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中