江苏龙网

  1. 首页 > 资讯 > 资讯 > >

人脸识别定义学生好坏？美研究机构建议禁止在学校中使用人脸识别

近日 ， 美国密歇根大学福特公共政策学院（Gerald R. Ford School of Public Policy, University of Michigan）的一项新研究建议 ， 人脸识别技术应被禁止在学校中使用 。 原因是 ， 人脸识别技术可能会加剧种族歧视、隐私侵犯等情况 ， 同时使得所谓“合格学生”的定义更加狭隘 。
“我们之所以专注研究学校中的人脸识别 ， 是因为该技术尚未普及 ， 但在未来会更容易影响到弱势群体, 过早使用此技术却不了解其内涵的做法是不道德和危险的 。 ”STPP技术评估项目主任兼公共政策教授肖比塔·帕萨萨拉西（Shobita Parthasarathy）接受媒体采访时称 。
据介绍 ， 该研究采用了相似案例的对比研究方法 ， 发现应用在学校中的人脸识别技术可能会放大现有的种族偏见 。 报告援引了多份算法测试结果指出 ， 由于现有的训练数据集主要是以白人为主 ， 因此人脸识别技术识别有色人种的错误率相对更高 。 这意味着 ， 如果人脸识别应用在学校中 ， 可能会出现各种不利于有色人种学生的情况 ， 比如难以从图书馆中借书等 。
更严重的是 ， 研究预测 ， 相比白人 ， 人脸识别技术将检测到更多有色人种的行为不端行为 ， 使得他们遭到更多的惩罚 。 该研究对比了此前的种族主义政策和做法 ， 发现这些政策和做法往往假定有色人种更容易出现行为不端或违法犯罪的情况 ， 将他们列为重点监视对象 。 比如 ， 相比白人残障学生 ， 有色人种残障学生更容易被执法部门盯上 。
这并不是杞人忧天 。 据悉 ， 2018年 ， 美国一民间组织利用亚马逊的人脸识别系统 ， 扫描535名美国国会议员的照片 。 结果 ， 该系统将28名议员错误识别成了罪犯 。 值得注意的是 ， 其中有11名是有色人种 ， 而当时美国国会仅有20%的议员是有色人种 ， 这意味着该系统将有色人种错误识别成罪犯的比例更高 。
报告指出 ， 人脸识别还可能以令人意想不到的方式来规训年轻人 ， 定义“合格学生”并惩罚那些不符合定义的人 。 比如 ， 英国中学的CCTV系统就使得许多学生改变他们的个性表达和行为 。 有学生称 ， 他们的着装风格似乎影响到接受处分的可能性 ， 学生们也会尽量避开可能受到监视的区域 ， 并且表现得不太引人注意 。
此外 ， 此份报告也提及了人脸识别技术备受争议的一点——侵犯隐私 。 据悉 ， 去年 ， 瑞典就发生了一起基于欧盟《通用数据保护条例》(GDPR)的“人脸识别进校园”被罚案 。 据悉 ， 当地一所高中使用人脸识别系统记录学生的出勤率 ， 其中牵涉到22名学生的个人信息 。
瑞典数据监管机构（The Swedish Data Inspection Authority, DPA）调查后认为 ， 尽管学校已征得家长同意监视学生 ， 但对于收集此类敏感的个人数据来说 ， 这在法律上并不是充分的理由 。 尽管学校某些领域可以被视为“公共”区域 ， 但是学生对于教室是有一定的隐私期望的 ， 而且学生出勤率的检测也能通过其他不侵犯隐私的方式来替代 。
“根据我们的分析 ， 我们强烈建议禁止在学校中使用人脸识别技术 。 ”报告最终给出这样的建议 ， 同时表示如果学校和教育部门仍然决定推行人脸识别技术 ， 那必须先经过广泛的专家审议和公众参与讨论（尤其是弱势群体） ， 以及拥有清晰的管理框架 ， 考虑到技术在社会、种族和道德方面的种种问题 ， “即使在孩子们离开学校后 ， 该技术带来的影响也将是长久的” 。
据介绍 ， 这份名为“教室里的摄像头”（Cameras in the Classroom）的研究报告是密歇根大学的STPP（科学、技术和公共政策）技术评估项目的一部分 。 该项目的研究重点是新兴技术 ， 并试图通过循证实践的跨学科分析来影响公共和政策辩论 。

采写：南都采访人员陈志芳
【人脸识别定义学生好坏？美研究机构建议禁止在学校中使用人脸识别】编辑：冯群星


    推荐阅读


    上一篇：国家防总：主汛期要延续到9月底，下阶段洪涝灾害仍需高度警惕

    下一篇：电器|京东五星电器正式成立 磨合期能否成为蜜月期？