【新浪科技综合】人脸识别出错导致无辜路人被捕，但被AI冤枉过的可能不只他一个新浪科技综合2020-08-07 12:15:220阅( 二 )
令人遗憾的是 ， 根据底特律警方的报告 ， 调查人员并没有这么做 。
他们只是将威廉姆斯的照片和其他 6 张生成的照片交给 Johnston 指认 。 Johnston 指认了威廉姆斯 。
据威廉姆斯回忆 ， 当他在审讯室把监控录像拿稳放在脸旁后 ， 两名警探还彼此对视了一下 ， 其中一名警探似乎很懊恼 ， 对搭档说：“我想是机器搞错了 。 ”而后两人又翻开 Shinola 商店里出现的男子照片 ， 这张照片就摆在威廉姆斯驾照的旁边 。 威廉姆斯再次指出 ， 他们不是同一个人 。
威廉姆斯一直被拘留到周五晚上 ， 被捕后 30 小时 ， 他以 1 ， 000 美元的个人保证金获释 。
随后 ， 威廉姆斯一家联系了辩护律师 ， 然而 ， 大多数辩护律师都认为威廉姆斯犯了罪行 ， 并报价约 7 ， 000 美元才肯为其辩护 。 威廉姆斯的妻子在密歇根州的美国公民自由联盟发了推文 ， 才引起了大范围的关注 。
【【新浪科技综合】人脸识别出错导致无辜路人被捕，但被AI冤枉过的可能不只他一个新浪科技综合2020-08-07 12:15:220阅】美国公民自由联盟律师 Phil Mayor 表示：“我们一直在努力敲响人脸识别的警钟 ， 它如果能够正常工作也会威胁隐私 ， 而一旦犯了错误则涉及种族歧视 。 这些事情总在发生 ， 只是我们没有获知 ， 因为人们通常不会意识到 ， 自己是糟糕的人脸识别技术的受害者 。 ”
该联盟指出 ， 威廉姆斯是第一宗已知道的在美国发生的同类案件 ， 但威廉斯可能未必是第一个被冤枉的人 。 许多人都不知道执法人员利用这种技术查案 ， 会无端把他们列作侦查目标 。
文章图片
图4/4图片来源：Alex Castro / The Verge谁应该为算法偏见负责？
最终 ， 威廉姆斯被证明清白 ， 因为底特律警方核实了他的不在场证明 。
但案件的影响仍在持续 。 这起案件演示了 ， 技术之缺陷和不合格的执法工作带来的糟糕后果 。
正如威廉姆斯在《华盛顿邮报》撰文讲述自己的经历时所写：“我从未想过要向女儿解释为何她们的爸爸会被警察拘捕 。 我怎样向她们说 ， 这是因为电脑出错 ， 但警方仍然只是相信电脑？”
在美国 ， 民众关于执法中存在种族主义的争论本来就长期存在：抗议者不仅在抗议个人官员的行为 ， 还在抗议用来监视社区和识别犯罪嫌疑人的人脸识别系统存在的种族偏见 。
MIT 和美国国家标准技术研究院（NIST）的研究已证实 ， 现有的人脸识别算法在识别白人上表现相对较好 ， 但对于其他种族人群而言准确性较差 ， 部分原因是其缺乏多样性数据库 。
或许是因为考虑到这一点 ， 去年年底以来 ， 包括亚马逊、微软和 IBM 在内的不少硅谷巨头纷纷宣布 ， 将停止或暂停为执法部门提供面部识别服务 。
然而 ， 这些举动真的能扭潮水的方向吗？
一方面在于 ， 人脸识别其实并不是这几家公司的主营业务 ， 另一方面 ， 这些声明很大程度上也只是象征性的 。 事实上 ， 美国执法部门使用的人脸识别技术往往是由一些不那么家喻户晓的公司提供的 ， 比如 Vigilant Solutions、Cognitec、NEC、Rank One Computing 和 Clearview AI 等 。 只要有需求 ， 总有人会做这笔生意 。
乔治敦大学隐私与技术中心的律师 Clare Garvie 曾发表过一篇有关政府使用人脸识别系统的文章 ， 她在文章中强调 ， 应禁止使用低质量的图像搜索系统（例如颗粒感强的低精度监控视频中截取的静止图像） ， 并且应对当前投入使用的系统进行严格的准确性和偏差测试 。 她说：“人脸识别算法有好有坏 ， 执法部门必须尽可能使用更好的算法 。 ”
还有一个技术以外的疑问或许更难回答 ， 那就是：当算法难以避免会出错 ， 应该向谁问责？
如果算法只是帮助我们更好的娱乐、工作 ， 这个问题似乎不那么紧迫 ， 可当算法被用到刑侦、医疗中时 ， AI 被用于给出错误的犯罪者线索、疾病诊断结果时 ， 这是一个必须回答的问题 。
关于这个问题 ， 全球范围内的从业者仍在积极地讨论之中 ， 目前也形成了一些共识：首先是认识到 AI 的不可解释性或将长期存在 ， 通过解释某个结果如何得出而实现算法的透明化 ， 在技术上几乎不具有实操性 ， 也会极大地限制 AI 的应用；基于这一点 ， 可以操作的空间是 ， 在 AI 的行为和决策上尽可能有效透明 ， 例如成立专门的第三方监管机构、针对不同的场景分层次设置监管等 。
当然 ， 这些大部分还是初步的讨论 ， 对于我们每一个个人来说 ， 在这个关键决策愈发走向算法驱动的世界中 ， 可以做到的就是保持学习和警惕 。
推荐阅读
- 古都正|中国千年古都正在崛起“硬科技”
- 小米科技|外媒曝光：小米新奇想专利让超广角拍摄不失真
- 职场女性|巾帼不让须眉：科技界又多了一位女掌门
- 【行走自贸区】线下逛线上购！来曹妃甸综合保税区体验不一样的“海淘”|【行走自贸区】线下逛线上购！来曹妃甸综合保税区体验不一样的“海淘”
- 【行走自贸区】线下逛线上购！来曹妃甸综合保税区体验不一样的“海淘”
- 服贸会|金融科技新成果集中“上新”服贸会，150家金融机构携手亮相
- 省属|赋予科研人员职务科技成果所有权 事关8家省属高校、科研院所
- 【行走自贸区】三亚崖州湾科技城：企业人才纷至沓来|【行走自贸区】三亚崖州湾科技城：企业人才纷至沓来
- 创新服贸|创新服贸 互惠共享 | 智能科技改变生活 服务贸易添新元素
- 创新服贸 互惠共享 | 智能科技改变生活 服务贸易添新元素