江苏龙网

  1. 首页 > 资讯 > 资讯 > >

技术|讲座｜黑爪：AI技术与大时代下的个人隐私( 二 )


2018年 ， 美国东北大学法学院的教授伍德罗·哈佐格在这方面做了大量的研究 ， 他与罗切斯特理工大学的伊万·赛林格教授做了一份联合研究报告 ， 他们把人脸识别技术称为人类发明的最危险监控工具 ， 并且呼吁对其全面禁止 ， 理由是人脸图形很难隐藏或改变 。 西方社会的驾照系统有人脸与名字匹配的数据库 ， 在任何地方拿出驾照与数据库进行对比就能办事 。 另外 ， 视频监控机制也非常便宜和普及 。 最关键的是 ， 与其他的生物特性不太一样的地方是 ， 人脸是个人身份和社交生活的核心要素 ， 我们无法逃避 ， 更不可能把脸藏起来 。 我们想要的存在于监控系统外的自由就被这伪装成礼物的人脸识别技术破坏 。
从技术和概念层面讲 ， 人脸识别技术最根本的问题是它把数值跟人脸关联起来 。 而人脸识别或其从视觉上把人体分类的系统都不可避免地在使用“种族”参数 ， 这个系统是现成的 ， “种族是非常精确的分类” ， 这是所有人根深蒂固的概念 。 几百年来 ， 在科学及管理领域中 ， 把人类简化成一组很清晰、可操纵的标识 ， 种族化手段非常方便、好用 ， 也能达到一定的准确值 。
人脸识别是基于对面部比例进行快速比较 ， 从而找到并确定ID值算法 。 问题在于FRT是如何学习做出识别并如何训练这种算法 。
FRT程序在运行前 ， 会扫描和评估数以万计的人脸图像来进行训练 ， 在这个数据集里包含了人脸数据的组成情况 。 除此之外 ， FRT程序通常要求图像有很好的光线 ， 要全脸或者接近全脸 。 但很多刑事调查中所使用的图像根本达不到要求 ， 为了让图像对FRT的识别有用 ， 就必须对图像进行处理 ， 对图像大幅度的修正就在引入误差 ， 这就存在问题 。 人脸识别还包括判断、提取、分类 ， 再将它与事先准备好的数据库进行比较 ， 比较的过程就是为人脸示意图赋值的过程 。
技术|讲座｜黑爪：AI技术与大时代下的个人隐私
文章图片

Face Recognition Technology: Compulsory Visibility and Its Impact on Privacy and the Confidentiality of Personal Identifiable Images ,Ian Berle, 施普林格出版社（Springer）2020年3月版
热点背后的讨论
人脸识别具体有哪些应用呢？我们生活中熟悉的有iPhone解锁 ， 刷脸进入大楼或房间 。 这项技术的天生缺陷导致了它的不准确性 。 如果在解锁iPhone时出了问题 ， 或许你还可以通过邮件、语音、密码等方式解锁 ， 但在追踪识别嫌犯时 ， 不准确的识别导致的后果会非常严重 。
亚马逊的人脸识别系统是Rekognition ， 有一次把奥普拉·温弗瑞（美国脱口秀女王）识别成男性 。 这件事大家还可以当成段子一笑了之 。 除此之外的另一件事 ， 另一个面部识别系统把一位女大学生标注成斯里兰卡爆炸案的嫌犯 。 事情发生时 ， 这个女生正在9000英里外的布朗大学上学 ， 被警方标注成嫌犯后 ， 这个女生多次收到死亡威胁 。
有人会说技术问题总会得到改善 ， 比如给人工智能系统足够的训练 ， 让这个系统接触更广泛、更具代表性的人脸数据库 ， 这些算法的偏差问题肯定能消除 。 暂且不说这是非常完美的假想 ， 实际上这并不是单纯的技术问题 ， 即使我们能做出对人进行准确分类的完美系统 ， 它仍然是危险的 。
比如 ， 智能警务系统是以过去犯罪模式的数据来预测未来可能发生犯罪的地方 ， 但犯罪报告数据本身就严重受到来自警察个人、部门的影响 ， 它并不是中立的数据 。 这些数据是对相关部门运作方式以及部门倾向的反映 ， 也是地方州、联邦政府利益的反映 。 所以 ， 这些数据它不可避免地带有机构和个人的偏见 。
这就意味着 ， 再优秀的数据技术都是带有偏见的 。 它完美地复制了带有偏见的警务模式 ， 这些数据对系统的纠错毫无帮助 。 如果有一个可以完美识别任何个体毫无偏差的系统 ， 可能只会更糟糕 ， 这意味着我们没有了个人隐私 。 所以 ， 人脸监控在有效和无效时它都是危险的 ， 这也是越来越多的人呼吁政府对人脸技术的使用加以限制的原因 。
人类对于AI危害的预测
目前来讲 ， 没有任何非常明确、规范的法律对人脸识别技术进行有效监管 ， 这也是IBM、亚马逊、微软加入这件事的起因 。 不过 ， 由于FRT不能提供准确的结果 ， 已经阻止过执法机构放弃使用这项服务 。
2016年 ， 旧金山警察局决定不购买这项技术服务 ， 前来投标的供应商没有一个达到他们要求的准确性 。 除此之外 ， 这项技术常常被滥用 。 另一方面 ， 很多警察也并不擅长使用这些系统 。 美国各地都曾出现警察对数据库进行不当搜索而受到惩戒的案例 ， 比如 ， 他们去搜索法律纠纷中的对手信息或者为朋友家人搜索他们在正常渠道下无法得到的信息 。 如此一来 ， 品行不端或意识不够的警员 ， 利用它进行作恶的空间恐怕无法想象 。
这让我想到了一部英剧 ， 叫做《真相捕捉》（ The Capture） ， 剧情由一个被指控犯罪的人转向另一个人 ， 一环套一环 ， 最后是第三个人犯的罪 。 它有一点烧脑 ， 也很挑战传统 ， 然后我想提一下一个新词叫“deepfake” ， 没有统一的翻译 ， 可以说是“伪显示” ， 也可以说叫做“深度造假” 。 剧情中有一个deepfake的画面 ， 就是被人制造出来但并没有发生在犯罪现场的视频 。


推荐阅读


上一篇：安所|币安的价值，最终取决于币安所做之事

下一篇：家居|柏厨品牌全面升级 将探索社区店发展模式