网易首页 > 教育频道 > 正文

银川一小学装人脸识别系统引热议

0
分享至

人脸识别技术应用范围越来越广,但其潜在的一些安全隐患也令许多业内专家、学者对其使用、推广持审慎态度。

近日,宁夏银川市兴庆区回民二小观湖校区(以下简称“回二观湖校区”)将在学校内安装人脸识别系统的事情引发讨论。对此有该校家长质疑,人脸识别系统是否会侵犯学生隐私,存在泄露学生个人信息的安全隐患。

对此,全国政协委员、上海市信息安全行业协会名誉会长谈剑锋认为,学校要讲清楚数据怎么采集、怎么存储、怎么使用、怎么销毁。说清楚后,征得家长同意的情况下可以做。

中国人民大学法学院副教授、哈佛大学法学博士郭锐表示,人工智能在教育场景下的使用需特别谨慎。而在学校推广使用人脸识别技术,则需征得每一位家长的书面同意。

4月12日,银川市兴庆区教育局一位相关负责人就此事向澎湃新闻(www.thepaper.cn)表示,人脸识别系统仅为确保孩子在校安全,目前还在前期筹备阶段,最终使用需家长同意。不过澎湃新闻近日采访多位该校家长发现,家长们只接到学校关于提交照片的通知,并未签署任何与人脸识别系统使用相关的书面知情同意书。

学校门口已经安装好人脸识别系统。本文图片 新消息报 图

区教育局:暂时在前期筹备阶段

多位回二观湖校区的家长向澎湃新闻表示,近日接到学校通知,为方便出入校门“刷脸”通行,要求提交一张孩子的近期免冠证件照电子版。但学校并没有就使用人脸识别系统一事向他们征求意见,只是通知在规定时间内,尽快提交学生的电子版照片和学籍号。

对此,中国人民大学法学院副教授、哈佛大学法学博士郭锐表示,根据《民法典》和《网络安全法》的相关规定,需要有家长明确的书面同意书,学校方可使用学生的人脸识别数据。

宁夏本地媒体《新消息报》4月12日也报道了这一事件,一篇题为《银川一小学实行“刷脸”通行!家长担心泄露学生信息》的文章中写道:银川市兴庆区回民二小信息中心主任段帅介绍,该校观湖校区目前有4500多名学生,学校规模逐渐扩大,如何保障在校师生的安全显得尤为重要。2020年8月,学校围绕智能化校园安全管理建设的“智管中心”项目启动,目前,已进入最后的信息录入与调试阶段。

上述报道提到,该项目建设完成后,学校师生进出校门将实现无感化人脸认证,校内公共开放区域及教学区域都将实现安防覆盖。该系统还可对孩子可能存在的推搡、打架等风险进行预警,如密度超标报警、语音提示、远程喊话等。系统运行后,一旦某位学生出现意外情况,只要输入学生的班级及名字,系统就会自动生成该学生一天的轨迹记录,有利于快速追溯到异常情况。在辅助教学方面,电子班牌、课堂人脸点名、巡课督导、考试管理都可以达到智能管理的目的。

多位家长表示,学校并未知会此次人脸采集的具体使用情况等信息。上述《新消息报》报道中提到的推搡、打架等风险预警、辅助教学功能等,他们也不曾从学校方面获悉、了解过。

4月12日,澎湃新闻致电银川市兴庆区教育局,一位相关负责人表示,这套人脸识别系统是智能安防的一部分,学校是个公益性质的地方,主要为孩子安全着想。教育部门不会拿孩子的信息牟利。

这位负责人提到,对使用人脸识别系统的安全问题教育部门也做了充分考量,回二观湖校区建立的网络是一个密闭的内网,不允许接入互联网。人脸识别系统就是为了确保孩子在校安全,没有别的用途。但人脸识别系统是否会识别孩子上课时的面部表情和动作等,这位负责人表示尚不清楚,没有听到这样的说法。

这位负责人还表示,目前人脸识别系统是否使用也在征求家长意见,建立在家长同意的基础上,不是教育行政部门想咋干就咋干,暂时在前期筹备阶段。

专家:学校需清楚告知家长数据如何采集等

4月12日,全国政协委员、上海市信息安全行业协会名誉会长谈剑锋就此事接受澎湃新闻采访时表示,作为学校安全场景,将“刷脸”作为监管手段和方式都可以理解,“但数据怎么采集、怎么存储、怎么使用、怎么销毁,这是一套机制,应该说清楚。说清楚后,征得家长同意的情况下学校可以做。”

谈剑锋表示,数据采集是否仅是用在安全保卫方面?如果数据被第三方公司获取,学校应该承担什么样的责任?学生毕业了人脸数据还要留存吗?数据怎样销毁?这几个问题要问清楚,学校不是不能用,而是看学校怎么用。

在学校北门房的监控中心,段帅介绍各方位监控摄像机的运行情况。

针对上述兴庆区教育局相关负责人提到的,人脸识别系统运行依靠一个“密闭的内网”这一说法。谈剑锋则认为,信息是否存在泄露风险和内网、外网无关,很多内网也有受到攻击的。而且数据泄露不一定是靠外网,很多数据泄露是内部职员出卖数据,只要采集就有泄露风险。

“关键要说清楚,出问题后校方承担什么责任,不是说数据出不出的去,而是一旦泄露后造成损失,谁来承担这个责任。”谈剑锋说,“人脸是生物特征数据,生物特征数据有个特点,不可再生性、唯一性。”这意味着,人脸信息一旦泄露,损失不可逆。

而在郭锐看来,学校和教育这个场景,是保护个人信息很敏感的场景,任何人工智能技术的使用,包括人脸识别在内,都要特别谨慎。任何使用都需家长同意,教育主管部门也要审查使用用途。这些用途如果不是学生和家长一起决定同意的,学校的做法就不妥当。

对学校提及的“该系统还可以对孩子可能存在的推搡、打架等风险进行预警,如密度超标报警、语音提示、远程喊话”这一用途。同时也是全国标准化委员会人工智能总体组社会伦理研究负责人的郭锐认为,如涉及校园霸凌问题,用新的技术能帮助解决这一问题当然是好事。但这背后其实体现的是深层次的矛盾,比如学校是否资源不够,很少的老师要管很多的学生,当然很多地方就管不到。技术当然能弥补资源不足的短板,但把它当做一个完全的解决方案,可能会比较表面,反倒产生这些问题的深层矛盾就不会有更多关注。

“很多霸凌都在摄像头看不到的地方发生,甚至在学校外面发生。有时互相瞪一眼就表明了想要霸凌的意向,但技术无论如何是监控不到的。不去解决深层矛盾,想要依靠一个技术,表面化的把问题解决了,这个做法不可取。”郭锐表示。

也有家长担心,该校提及的人脸识别“智管中心”项目在辅助教学方面的功能,如“电子班牌、课堂人脸点名、巡课督导、考试管理”等,是否意味着学校会用人脸识别系统监控学生课堂表现呢?

对此,郭锐认为家长的担心有其道理,比如小孩上课打瞌睡,其实是整体学习的一部分。要把上课表现这一项拎出来,恐怕是把人当做机器对待。“一个真正的教育者不会这样想问题。这都不能真正帮助教育,而且会侵犯学生隐私,不客气地说这都是外行做法。”

郭锐表示,总的来说,在教育里使用人工智能技术,很多人都想用它来达到一个比较简单、直接、明确的目标。但在教育里,很多需要解决的问题是互相关联的,很少有一些事情是只需解决这一个问题。想要追求用技术解决一个老大难问题,这个思路其实不太对。

相关推荐
热点推荐

你的洗衣液倒太多了吗?关于洗衣服的5个误区,很多人都没有弄清楚

临沂日报房产周刊
2021-05-09 22:12:45

探访被指骗老人钱养老院:单间每月收费过万,12万购买入住权

生活报
2021-05-10 00:38:08

最新放假通知来了!但有个坏消息,南宁人挺住…

吃喝玩乐IN南宁
2021-05-09 19:55:12

英雄团长祁发宝的儿子,未来可以享受哪些优待?

桃烟读史
2021-05-06 17:33:09

富士康印度厂10~100名中国籍员工感染新冠!苹果向印度转移产能遭遇大麻烦!

EETOP半导体社区
2021-05-09 14:45:23

詹姆斯已放弃本赛季再无全力詹 复出打火箭升完总冠军旗帜就去钓鱼

体育课副班长
2021-05-10 07:03:40

王菲无滤镜状态超能抗,穿一身黑皮肤发亮,难怪能2次收割谢霆锋

蓓小西
2021-05-09 16:28:44

英超积分榜:曼联锁定欧冠正赛席位,西汉姆距前四5分

直播吧
2021-05-10 06:10:04

中美直飞机票翻倍暴涨!经济舱3w起,回中国四条航线均开始加价

我们的百变生活
2021-05-10 02:04:13

78分!西班牙人中国老板赢了,他定武磊未来,难放摇钱树回上港

足球慢镜头
2021-05-09 16:08:53

网友旧事重提:美国出现云端漫步之人,难道真是“上帝”来了?

全球每日趣闻
2021-05-09 14:28:16

他一生事业无人可触,头婚娶学生李谷一为妻,二婚53岁老来得子

妮妮爱娱乐官方
2021-05-09 20:01:12

武磊大喊西班牙语表忠心!球迷:边缘人啦啦队长,升级和你没关系

三十年莱斯特城球迷
2021-05-09 10:00:06

“护士小姐姐你能不能多穿一点啊,刚缝合的伤口又开了!”哈哈哈哈

民生观点
2021-05-05 19:22:54

郭威与许妈过母亲节,两人悠闲漫步,网友:牵妈妈的手就更温馨了

老穆说语文
2021-05-09 20:59:57

《三体》日本7天加印10次,在韩国只卖了400本,原因让人哭笑不得

子昂说娱乐
2021-05-10 01:22:04

男性的鼻毛为何会“窜”出来?鼻毛旺盛代表了什么?早知早受益

生活大火锅
2021-05-06 21:37:11

大长腿被绑成这样,少妇穿搭就是大胆,一般人驾驭不了

萌醒动物
2021-05-08 15:21:33

晚上拍照要多注意,本来时尚的小姐姐,拍成了“油王”

萌醒动物
2021-05-08 15:38:09

入职腾讯5个月就离职:但凡有点操守的人,在这里都活不下去。

王菲娱乐说
2021-05-09 04:44:48
2021-05-10 12:13:07

头条要闻

香港教协称四成教师要离开教育界 梁振英:不是坏事

头条要闻

老人称遭养老院骗12万 有家属退费被拒因"子女能继续住"

体育要闻

压抑久了!杨立瑜脱衣庆祝做闭嘴手势

娱乐要闻

杨幂扎双马尾穿复古学生装娇俏可人

财经要闻

科技要闻

有社交障碍?马斯克自称患病:我能是正常人?

汽车要闻

进出第三排更便捷 昂科威Plus 7座版舒适配置强

态度原创

时尚
本地
数码
艺术
公开课

Vans联合创始人去世 终年90岁

本地新闻

在危险的边缘试探,海南交警有话说→

数码要闻

视频聊天都能造假:深扒可怕的AI换脸软件

艺术要闻

灵岩寺部分罗汉像保护修复项目通过验收

公开课

巴菲特:能成大事的人,往往有3种特质

×