AI 潜入课堂!摄像头要盯着你上课了

软件

09-03 20:51

本文来自公众号量子位 (ID :QbitAI),原标题《人在坐,AI 在看》,爱范儿经授权发布。

教室之内,你做什么 AI 都有记录?!

为此旷视不得不回应了。

昨天,一张带有「MEGVII 旷视」图标的视频监控图像在社交网络上疯传。

人在坐,AI在看

图中显示,两名在教室中的女生身边,显示出了相应的课堂行为数据,比如趴桌子、玩手机、睡觉、听讲、阅读、举手等等。

伴随这张图,还有大量网友严厉的指责与质疑,认为这样的技术不应该出现在课堂中。加之变脸 AI 应用 ZAO 引发的关注,隐私话题再次被谈及。

不过相比起来,旷视对这些批评感觉有些冤,按照其官方回应,「这只是技术场景化概念演示」。

但引发的关注还在继续,更多教育场景内的 AI 应用,也引起前所未有的重新审视。

摄像头盯着你上课

事情跟刚刚进入的开学季有关。

九月新学期开始后,不少学生就发现,自己熟悉的校园中出现了人脸识别系统。

比如位于南京的中国药科大学,在校门、图书馆和宿舍都安装了人脸识别门禁。

对于智能门禁,学生们的接受度倒是很高。有人认为这套系统识别准确,速度也很快;有人表示不再担心忘带校园卡,确实很方便。

人在坐,AI在看

学校保卫处负责人也表示,比起从前实行的校园卡刷卡通行,人脸识别系统的引入解决了过去师生忘带校园卡的麻烦,也解决了代刷卡、复制卡等校园安保问题。

但这套来自「刷脸之王」旷视 Face++的系统,可能不止是人脸识别刷门禁。

在梨视频的采访中,校方介绍,这套系统不仅能对进入教室的学生进行全程人脸识别,还能监测到学生抬头低头,是否玩手机,是否发呆等行为细节。

人在坐,AI在看

关于这类系统,旷视也早有过相关介绍,目标所指是辅助教育:

在课堂教学评价系统中,旷视科技将自主研发的人脸识别、行为识别、表情识别等技术,集成在考勤及行为分析摄像机 MegEye-C3V-920 和行为分析服务器中。

通过对课堂视频数据进行实时的结构化分析,反馈学生行为、表情、专注度、前排上座率等多维度课堂数据,辅助教学评估评价。

没想到,竟然在社交媒体上引发大讨论。

旷视在官方回应中说,自己在教育领域的产品专注于保护孩子在校园的安全。

相应的解决方案,可以协助学校管理人员提升效率并保障学生安全,主要用于智能校门、教室门及宿舍的出入,方便学生安全出入校园。

至于引发讨论的课堂行为分析图片,是技术场景化概念演示。

人在坐,AI在看

但根据校方说法,相关系统已在两间教室中进行试点,如果效果好,会进行全校推广。

其实,这样的技术和应用并不算稀奇。有网友表示,这种校园分析的新闻去年前年就有了,现在竟然来了个大爆发……而且成为热搜事件,着实意料之外。

教育场景正成为 AI 落地跑马场

但不容忽视的事实是,这几年来 AI 赋能落地千行百业的声势越来越大,在这样的大趋势面前,教育场景可以说是蓝海一片。

《2019 年中国智慧教育行业市场发展及趋势研究报告》数据显示,2010-2018 年中国智慧教育行业规模持续扩大,增速保持在 10% 以上,2018 年市场规模超过 5000 亿元。

众多 AI 技术公司、教育场景公司,都纷纷加入战局,加入新红利的争夺中。

而且作为 AI 领域最为成熟的技术方向,各种计算机视觉/人脸识别方案早已见怪不怪。在校园中采用人脸识别技术,也都已经不稀罕。

但没有哪家公司的方案,止步于门闸刷脸。

闸机只是切入点,更多方案提供商希望的是用 AI 来重构整个教育全流程,课堂自然是一个能够大展拳脚的地方。

当然,水大鱼大,竞争者也多。提供这样方案的,远不止旷视一家。

打开搜索引擎搜索「课堂人脸识别」,能够得到 621 万条结果,各种大大小小的公司,都有相应方案。

人在坐,AI在看

其中甚至不乏更为惊人的「黑科技」方案。

比如掌门 1 对 1,已经与商汤达成战略合作,在情绪智能识别等领域进行研究,目的就是通过在线辅导的情绪识别,看学生是否处于认真上课的状态。

创始人兼 CEO 张翼还分享过用「脑电波」的设想:

脑机交互的可穿戴智能设备可以实时监测学生的脑电波数据,通过脑电动态数据采集分析,对学生在学习过程中进行情绪识别、疲劳度识别,分析判断学生在学习过程中的精神状态、思维活跃度和学习专注力。

此外,还有英特尔、K12 在线教育机构海风教育,少儿英语教育结构 VIPKID 等等都有相应系统与解决方案提供。

人在坐,AI在看

总体来说,之前「一块屏教育」的故事延续,就是 AI 可以帮助教学过程实现数据化、机器学习化。

而且谈到 AI 落地传统学校,也不是只有这次引发关注的中国药科大学。

随手一查,案例新闻非常丰富:

比如 2018 年 5 月,浙江省重点杭州第十一中学(阿里云之父王坚母校),将名为「智慧课堂行为管理系统」的科技应用于课堂教学。

新京报报道中表示,这一系统也可以对课堂上学生的行为进行分析,并对异常行为实时反馈,工作流程是这样的:

系统每隔 30 秒会进行一次扫描,针对学生们阅读、举手、书写、起立、听讲、趴桌子等 6 种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。

 

目前仅趴桌子一项为负分行为。若此类不专注行为达到一定分值,系统就会向显示屏推送提醒,任课教师可根据提醒进行教学管理,而显示屏仅任课教师可见。

不过,校方也给出了回应,在系统设计伊始,便考虑到了隐私问题,系统只采集代码,并非学生面部影像。

此外借 AI 落地之名进入校园,也不仅仅只是基于人脸识别的解决方案,还有基于各种传感器的「智慧校服」。

去年 12 月底,贵州 10 多所中小学的学生穿上「智能校服」引起大量关注。

供应商介绍称,这套智能校服,能精准、及时记录他们的出勤和活动。只要身着这套校服,学生进出校门的准确时间就会自动发送给学校老师和家长。

人在坐,AI在看

而且如果未经许可出校门,那也会激活自动语音报警器。校服还会配合校门口的智能摄像头一起使用,假如学生互换校服,警报也会响起。甚至它也能发送准确的具体位置,帮助学校和家长快速定位。

但类似方案,也不是中国专利,全球同此凉热。

早在 2012 年 3 月份,巴西也推出了类似智能校服,引发了媒体广泛关注。

巴西维多利亚达孔基斯塔市最早推出一款智能 T 恤,这条 T 恤内置了芯片,可以让家长知道孩子究竟有没有逃课了。

还有瑞典(真欧洲国家)一中学,使用人脸识别等技术对 22 名学生进行了为期三周的跟踪调查,记录下他们每次进入教室的情况。

毫无疑问,这样的人工智能入校、AI+教育,也同样引起了争议与广泛的讨论。

争议四起:隐私何在?

核心热议焦点,依然是 AI 技术落地中的技术。

有抖机灵的网友说,学霸们研发的 AI,正在不断压缩学渣摸鱼的空间。

但更多网友,关注的还是技术价值观的话题:技术本身无罪,但这并不代表技术的落地,不需要多方面权衡考量。

而且日常工作学习为摄像头所监控,监控背后的 AI 还要分析量化你的一举一动,未免让人有些毛骨悚然。

另外在这场突然掀起的风暴之中,AI 落地带来的「隐私」边界,也令人深思。

有微博网友认为,这种无死角全过程的 AI 监控,是在扼杀情感。

人在坐,AI在看

有人表示绝对不会让自己的孩子处在这种环境之中。

人在坐,AI在看

也有人指出,这是对教育的本末倒置,学校应用这种技术,不是在培养人,而是在培养升学率。

人在坐,AI在看

「技术再好,用的地方不对有什么意义呢?」

人在坐,AI在看

这种评论也代表了很多吃瓜网友的心声。就像《黑镜》中描述的未来科技,诞生之初哪有正邪之分呢?

除了隐私、自由,教育场景中令人担心的还有数据安全问题。

2018 年 8 月的一则判决文书中,就披露了一起非法出售学生信息的案例。

人在坐,AI在看

当时负责管理维护安徽全省学籍管理系统的张某,利用职务之便,以每条 1 毛钱的价格,出售了 4 万名学生的隐私信息。据新浪财经报道,张某任职的公司正是科大讯飞。

前沿技术的发展,有时候远超公众的想象。当一项技术真正走向落地,就不再是小众的狂欢,而要接受大众的审视。

如何选择更合适的技术落地场景,如何兼顾科技与社会人文,或许是 AI 赋能,必须要去面对和思考的问题。

国内国外,也开始越来越多传递出这样的风向。

比如谷歌开始越来越多科普利于隐私的「联邦学习」,腾讯在创办 20 周年时将「科技向善」写入公司使命和愿景,而即将 IPO 上市的旷视实际也在招股书中明确建立「AI 道德委员会」。

掌舵微软 AI 的沈向洋还呼吁,应该每一项 AI 技术和产品应用前,都要通过伦理道德委员会审查。

虽然人类在发明汽车 80 年后才发明安全带,但 AI 时代里,我们需要现在就为 AI 技术系上安全带了。

总而言之,AI 和隐私安全的话题,一切还不会就此终止,还会有更多事件、更多应用被放在聚光灯下审视。

你觉得呢?

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中

追踪人工智能产品和技术新趋势,我们只专注报道 AI。

本篇来自栏目

解锁订阅模式,获得更多专属优质内容