AI 潜入课堂!摄像头要盯着你上课了

软件

09-03 20:51

本文来自公众号量子位 (ID :QbitAI),原标题《人在坐,AI 在看》,爱范儿经授权发布。

教室之内,你做什么 AI 都有记录?!

为此旷视不得不回应了。

昨天,一张带有「MEGVII 旷视」图标的视频监控图像在社交网络上疯传。

人在坐,AI在看

图中显示,两名在教室中的女生身边,显示出了相应的课堂行为数据,比如趴桌子、玩手机、睡觉、听讲、阅读、举手等等。

伴随这张图,还有大量网友严厉的指责与质疑,认为这样的技术不应该出现在课堂中。加之变脸 AI 应用 ZAO 引发的关注,隐私话题再次被谈及。

不过相比起来,旷视对这些批评感觉有些冤,按照其官方回应,「这只是技术场景化概念演示」。

但引发的关注还在继续,更多教育场景内的 AI 应用,也引起前所未有的重新审视。

摄像头盯着你上课

事情跟刚刚进入的开学季有关。

九月新学期开始后,不少学生就发现,自己熟悉的校园中出现了人脸识别系统。

比如位于南京的中国药科大学,在校门、图书馆和宿舍都安装了人脸识别门禁。

对于智能门禁,学生们的接受度倒是很高。有人认为这套系统识别准确,速度也很快;有人表示不再担心忘带校园卡,确实很方便。

人在坐,AI在看

学校保卫处负责人也表示,比起从前实行的校园卡刷卡通行,人脸识别系统的引入解决了过去师生忘带校园卡的麻烦,也解决了代刷卡、复制卡等校园安保问题。

但这套来自「刷脸之王」旷视 Face++的系统,可能不止是人脸识别刷门禁。

在梨视频的采访中,校方介绍,这套系统不仅能对进入教室的学生进行全程人脸识别,还能监测到学生抬头低头,是否玩手机,是否发呆等行为细节。

人在坐,AI在看

关于这类系统,旷视也早有过相关介绍,目标所指是辅助教育:

在课堂教学评价系统中,旷视科技将自主研发的人脸识别、行为识别、表情识别等技术,集成在考勤及行为分析摄像机 MegEye-C3V-920 和行为分析服务器中。

通过对课堂视频数据进行实时的结构化分析,反馈学生行为、表情、专注度、前排上座率等多维度课堂数据,辅助教学评估评价。

没想到,竟然在社交媒体上引发大讨论。

旷视在官方回应中说,自己在教育领域的产品专注于保护孩子在校园的安全。

相应的解决方案,可以协助学校管理人员提升效率并保障学生安全,主要用于智能校门、教室门及宿舍的出入,方便学生安全出入校园。

至于引发讨论的课堂行为分析图片,是技术场景化概念演示。

人在坐,AI在看

但根据校方说法,相关系统已在两间教室中进行试点,如果效果好,会进行全校推广。

其实,这样的技术和应用并不算稀奇。有网友表示,这种校园分析的新闻去年前年就有了,现在竟然来了个大爆发……而且成为热搜事件,着实意料之外。

教育场景正成为 AI 落地跑马场

但不容忽视的事实是,这几年来 AI 赋能落地千行百业的声势越来越大,在这样的大趋势面前,教育场景可以说是蓝海一片。

《2019 年中国智慧教育行业市场发展及趋势研究报告》数据显示,2010-2018 年中国智慧教育行业规模持续扩大,增速保持在 10% 以上,2018 年市场规模超过 5000 亿元。

众多 AI 技术公司、教育场景公司,都纷纷加入战局,加入新红利的争夺中。

而且作为 AI 领域最为成熟的技术方向,各种计算机视觉/人脸识别方案早已见怪不怪。在校园中采用人脸识别技术,也都已经不稀罕。

但没有哪家公司的方案,止步于门闸刷脸。

闸机只是切入点,更多方案提供商希望的是用 AI 来重构整个教育全流程,课堂自然是一个能够大展拳脚的地方。

当然,水大鱼大,竞争者也多。提供这样方案的,远不止旷视一家。

打开搜索引擎搜索「课堂人脸识别」,能够得到 621 万条结果,各种大大小小的公司,都有相应方案。

人在坐,AI在看

其中甚至不乏更为惊人的「黑科技」方案。

比如掌门 1 对 1,已经与商汤达成战略合作,在情绪智能识别等领域进行研究,目的就是通过在线辅导的情绪识别,看学生是否处于认真上课的状态。

创始人兼 CEO 张翼还分享过用「脑电波」的设想:

脑机交互的可穿戴智能设备可以实时监测学生的脑电波数据,通过脑电动态数据采集分析,对学生在学习过程中进行情绪识别、疲劳度识别,分析判断学生在学习过程中的精神状态、思维活跃度和学习专注力。

此外,还有英特尔、K12 在线教育机构海风教育,少儿英语教育结构 VIPKID 等等都有相应系统与解决方案提供。

人在坐,AI在看

总体来说,之前「一块屏教育」的故事延续,就是 AI 可以帮助教学过程实现数据化、机器学习化。

而且谈到 AI 落地传统学校,也不是只有这次引发关注的中国药科大学。

随手一查,案例新闻非常丰富:

比如 2018 年 5 月,浙江省重点杭州第十一中学(阿里云之父王坚母校),将名为「智慧课堂行为管理系统」的科技应用于课堂教学。

新京报报道中表示,这一系统也可以对课堂上学生的行为进行分析,并对异常行为实时反馈,工作流程是这样的:

系统每隔 30 秒会进行一次扫描,针对学生们阅读、举手、书写、起立、听讲、趴桌子等 6 种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。

 

目前仅趴桌子一项为负分行为。若此类不专注行为达到一定分值,系统就会向显示屏推送提醒,任课教师可根据提醒进行教学管理,而显示屏仅任课教师可见。

不过,校方也给出了回应,在系统设计伊始,便考虑到了隐私问题,系统只采集代码,并非学生面部影像。

此外借 AI 落地之名进入校园,也不仅仅只是基于人脸识别的解决方案,还有基于各种传感器的「智慧校服」。

去年 12 月底,贵州 10 多所中小学的学生穿上「智能校服」引起大量关注。

供应商介绍称,这套智能校服,能精准、及时记录他们的出勤和活动。只要身着这套校服,学生进出校门的准确时间就会自动发送给学校老师和家长。

人在坐,AI在看

而且如果未经许可出校门,那也会激活自动语音报警器。校服还会配合校门口的智能摄像头一起使用,假如学生互换校服,警报也会响起。甚至它也能发送准确的具体位置,帮助学校和家长快速定位。

但类似方案,也不是中国专利,全球同此凉热。

早在 2012 年 3 月份,巴西也推出了类似智能校服,引发了媒体广泛关注。

巴西维多利亚达孔基斯塔市最早推出一款智能 T 恤,这条 T 恤内置了芯片,可以让家长知道孩子究竟有没有逃课了。

还有瑞典(真欧洲国家)一中学,使用人脸识别等技术对 22 名学生进行了为期三周的跟踪调查,记录下他们每次进入教室的情况。

毫无疑问,这样的人工智能入校、AI+教育,也同样引起了争议与广泛的讨论。

争议四起:隐私何在?

核心热议焦点,依然是 AI 技术落地中的技术。

有抖机灵的网友说,学霸们研发的 AI,正在不断压缩学渣摸鱼的空间。

但更多网友,关注的还是技术价值观的话题:技术本身无罪,但这并不代表技术的落地,不需要多方面权衡考量。

而且日常工作学习为摄像头所监控,监控背后的 AI 还要分析量化你的一举一动,未免让人有些毛骨悚然。

另外在这场突然掀起的风暴之中,AI 落地带来的「隐私」边界,也令人深思。

有微博网友认为,这种无死角全过程的 AI 监控,是在扼杀情感。

人在坐,AI在看

有人表示绝对不会让自己的孩子处在这种环境之中。

人在坐,AI在看

也有人指出,这是对教育的本末倒置,学校应用这种技术,不是在培养人,而是在培养升学率。

人在坐,AI在看

「技术再好,用的地方不对有什么意义呢?」

人在坐,AI在看

这种评论也代表了很多吃瓜网友的心声。就像《黑镜》中描述的未来科技,诞生之初哪有正邪之分呢?

除了隐私、自由,教育场景中令人担心的还有数据安全问题。

2018 年 8 月的一则判决文书中,就披露了一起非法出售学生信息的案例。

人在坐,AI在看

当时负责管理维护安徽全省学籍管理系统的张某,利用职务之便,以每条 1 毛钱的价格,出售了 4 万名学生的隐私信息。据新浪财经报道,张某任职的公司正是科大讯飞。

前沿技术的发展,有时候远超公众的想象。当一项技术真正走向落地,就不再是小众的狂欢,而要接受大众的审视。

如何选择更合适的技术落地场景,如何兼顾科技与社会人文,或许是 AI 赋能,必须要去面对和思考的问题。

国内国外,也开始越来越多传递出这样的风向。

比如谷歌开始越来越多科普利于隐私的「联邦学习」,腾讯在创办 20 周年时将「科技向善」写入公司使命和愿景,而即将 IPO 上市的旷视实际也在招股书中明确建立「AI 道德委员会」。

掌舵微软 AI 的沈向洋还呼吁,应该每一项 AI 技术和产品应用前,都要通过伦理道德委员会审查。

虽然人类在发明汽车 80 年后才发明安全带,但 AI 时代里,我们需要现在就为 AI 技术系上安全带了。

总而言之,AI 和隐私安全的话题,一切还不会就此终止,还会有更多事件、更多应用被放在聚光灯下审视。

你觉得呢?

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中