国外父母开始用 AI 审查保姆了,但似乎不太可靠

产品

2018-11-26 18:37

找保姆是个棘手活,因为要从几面之缘判断一个陌生人是否合适照顾不完全具备自理能力的老人或小孩从来都不容易。

现在,人工智能要来帮我们做这个决定了。

来自伯克利大学的创业团队在上个月正式推出 Predictim,一项可帮助父母筛选保姆候选人的服务。

Predictim 将扫一遍保姆候选人的 Facebook、Twitter 和 Instagram 等社交网络账号内容,并最终为父母生成一份囊括了「嗑药」「欺凌/骚扰」等可能性评估的《安全报告》。

▲ 图片来自 Predictim

每个人最重视的都是自己孩子以及所爱之人的安全。我们的目标是通过向父母提供所需工具来缓和这种焦虑,并为他们所爱之人找到最值得信任和可靠的护理者、钢琴教师、家教等等。

Sal Parsa 说,他和 Joel Simonoff 联合创立的 Predictim 显然想将这项服务延伸从保姆至任何一切和信任相关的私人雇佣服务上。在看「大饼」前,我们不妨先了解一下用过这项服务的人怎样看

父母喜闻乐见,但也心存疑虑

社交网络能体现一个人的个性,但为什么她(的欺凌指数)是 2 而不是 1 分呢?

Jessie Battaglia 对《华盛顿邮报》说。她是一位 29 岁的母亲,她用 Predictim 测试了一下 1 岁儿子的保姆。

▲ Jessie Battaglia 和儿子,图片来自 《华盛顿邮报》

结果,这个 24.99 美元/次的服务告诉她,她的心仪保姆在「欺凌、骚扰、态度不好和不尊重人」方面拿了 2 分,5 分为最危险。这一下子让原本心满意足的她担心了起来,同时却无法亲自去审视到底是什么因素导致这个「高分」。

另一位母亲也遇到了类似情况。在她看来,这个服务的问题在于,她无法判断算法究竟是搜到了候选人在社交网络上引用了一些电影台词或歌词等流行文化用语,还是真的找到了能反映候选人的欺凌类语言。

与此同时,Battaglia 的保姆 Malissa Nielsen,也就是被打上了「2 分」的 24 岁女孩,对这个服务感到很不满:

电脑并没有情感,它又怎能评判所有事情?

Nielsen 每周去一次教堂,粗口都不说一句,现在正在攻读早教专业,以后还希望开一家自己幼儿园。她明白父母想多了解一下照顾自己孩子的人,同时也对自己有信心,所以在沟通下同意了让两个聘请她的家庭看她的社交账号,但并不知道他们会用算法来评测。

需要说明的是,在国外做孩子保姆的大多都是年轻人(和国内的「阿姨」不同)。你可以说社交网络在时间跨度上记录了很广个人信息,与此同时,他们发布的内容包含很多「梗」或是讽刺的话,算法又会不会误解?

鉴于算法评测过程就是一个「小黑箱」,没有人能确定具体是什么影响了算法判断。

这也是为什么 Parsa 甩锅说这份测试应该是辅助材料,「结果可能准确或不准确地反映保姆的真实个性。」

薛定谔的信任和难以察觉的歧视

▲ 图片来自 Raising Children Network

看到这里,你也许会说「那别用就好啦!」但不妨换位思考,如果需要请陌生人做保姆,有这样一个工具给你检测,你能否能忍住?据保姆中介平台 Care.com 调查统计,50% 的父母最后没为孩子找保姆就是因为寻找保姆的过程压力太大,难以把控。

一旦走上「我先测试看看,准不准确我再判断」,我们就要走进「薛定谔的信任」领域。

如果你要用这个工具,但保姆不愿意给出社交账号授权,那你会怀疑他们是否有所隐藏(即便人家只是重视隐私);如果你本来很喜欢这个人,但却像 Battaglia 一样莫名测出了一个「2 分」,你也控制不了自己会去怀疑和担忧,即使这个分数准确度无从断定。

此外,不少人工智能领域专家更担心的是,这种类型的算法很可能会默默地增强各种歧视问题,亚马逊的人工智能算法引擎此前就爆出性别歧视问题:它不喜欢女性应聘者。

由于亚马逊的招聘算法最开始的训练素材是公司过去十年来的简历,但由于科技行业原本就是由男性主导,所以算法也学到了这个规律,并主动给包含「女性」关键词的简历评低分。

现在,亚马逊放弃了自己的招聘算法,但新创公司 Fama 则为上百家员工人数超过 1000 人的公司提供服务,评估员工和潜在雇员的社交账号信息。稍微好点的是,Fama 会返回一份带「问题推文」超链接的报告,公司可以进行自主判断和审查。

从这个角度来看,Fama 提供的更像是「筛查」,而 Perdictim 就更像是「下判断」。但没有「问题推文」超链接来进行二次审查对于父母而言问题也没想象中大。

旧金山的 Diana Werner 是两个孩子的母亲,她认为 Perdictim 这种软件能为找保姆的父母「买个安心」,并相信保姆也应该分享自己的社交信息来进行分析。

有背景调查固然好,但 Perdictim 还能深度剖析一个人。(在我住那边,肯定)100% 的父母都想要用这个服务,我们都想要完美的保姆。

题图来自 SuperMOM Mitali

后评论

评论在审核通过后将对所有人可见

正在加载中