江苏龙网

  1. 首页 > 资讯 > 资讯 > >

【新浪科技综合】人脸识别出错导致无辜路人被捕，但被AI冤枉过的可能不只他一个新浪科技综合2020-08-07 12:15:220阅

来源：数据实战派
美国一名男子被 AI 列为一起盗窃案的嫌疑人 。 尽管调查报告明确指出 ， 人脸识别匹配只能作为调查线索 ， 不是明确证据 ， 当地警方仍然将他逮捕 。 这是已知的第一宗在美国发生的同类案件 ， 但他可能未必是第一个被冤枉的人 。
【新浪科技综合】人脸识别出错导致无辜路人被捕，但被AI冤枉过的可能不只他一个新浪科技综合2020-08-07 12:15:220阅
文章图片
图1/4图片来源：Sarah Grillo / Axios对于威廉姆斯（Robert Julian-Borchak Williams）来说 ， 今年 1 月糟糕的部分不只有新冠疫情的出现 ， 还有一通来自警察局的电话 。
那通电话的到来 ， 让这位非裔美国人成为目前被公开的第一位被机器错误定罪的无辜者 。
一通意外的电话
威廉姆斯是密歇根州底特律的一名上班族 。 2020 年 1 月某个周四下午 ， 正在公司上班的他接到了底特律警察局的电话 ， 并被要求投案自首 。
刚开始他对电话的内容不以为然 ， 直到接到电话的一小时后 ， 他在住宅区的车道上被一辆警车截停 。 在妻子和两个年幼的女儿面前 ， 两名警察对他戴上手铐 ， 没有说明为什么逮捕他 ， 只是出示了一张有他照片的并写有“盗窃罪”的“重罪逮捕令” 。
【新浪科技综合】人脸识别出错导致无辜路人被捕，但被AI冤枉过的可能不只他一个新浪科技综合2020-08-07 12:15:220阅
文章图片
图2/4威廉姆斯（Robert Julian-Borchak Williams） ， 本文主人公 图片出处：美国民权自由联盟 ， ACLU随后 ， 威廉姆斯经历的便是对待“盗窃犯”的例行流程：在拘留中心拍了嫌疑犯照片 ， 被提取了指纹和 DNA ， 并拘留一晚 。
在审讯室 ， 两名警探向他询问起 Shinola 商店被盗的事情 ， 威廉姆斯才知道发生了什么 。
Shinola 是当地的一家高档精品店 ， 销售手表、自行车和皮革制品 。 2018 年 10 月 ， 该店 5 只价值 3800 美元的手表被盗 。
审讯中 ， 警探拿出一张监控视频的截图 ， 显示一名身材魁梧的男子站在一块手表前 ， 身穿黑色衣服 ， 头戴圣路易斯红雀队的红色帽子 。 警察怀疑 ， 威廉姆斯就是照片中的犯罪嫌疑人 。
“这是你吗？”警察问 。
“这不是我 。 你以为所有的黑人都长得一样吗？”威廉姆斯说 。
威廉姆斯承认 ， 2014 年这家店刚开张时 ， 他和妻子去过此地 ， 但威廉姆斯知道自己没有盗窃 。 可底特律警察局的人脸识别算法并不这么认为 。 在威廉姆斯这起案子中 ， 正是人脸识别算法将他与 Shinola 的盗窃案联系到了一起 。
“西海岸头号人脸识别供应商”浮出水面
公开报道显示 ， 底特律的警察部门已有数十年的人脸管理系统使用历史 。
而且 ， 不止底特律警察局 ， 整个密歇根州警方都在使用人脸识别技术 ， 由一家名为 DataWorks Plus 的公司提供 。
这家公司成立于 2000 年 ， 本身并不直接开发面部识别软件 ， 而是为执法机构开发自定义工具和系统 ， 例如可用于分析警方数据（比如面部识别和指纹匹配）的工具 。 罪犯面部数据库“加州面部识别互联”（California Facial Recognition Interconnect）是这家公司的标志性产品之一 。
2005 年 ， DataWorks Plus 开始扩展产品 ， 增加了外部供应商开发的面部识别组件 ， 主要来自于 NEC、Rank One 和 Cognitec 三家公司（前两家是密歇根州使用的人脸识别算法技术供应商） ， 其在美国执法系统中的市场份额进一步扩大 ， 业内还称其为“西海岸头号人脸识别供应商” 。
当外部供应商开发出一种识别人脸的算法时 ， DataWorks Plus 会尝试通过识别系统已知的低质量人物图像来判断其有效性 。 然而 ， 他们并不会系统地衡量其中的准确性或偏差 。
更糟糕的是 ， 这些供应商的人脸识别算法也并不稳定 。 2019年 ， NEC、Rank One 的算法曾被纳入一项针对 100 多个面部识别系统的联邦研究中 ， 结果发现其存在一定程度的算法偏见——识别非裔美国人和亚洲人面部的错误率是白种人的 10 倍至 100 倍 。 随后 ， Rank One 的首席执行官 Brendan Klare 表示 ， 公司又开发了一种新算法 ，“缩小了不同人群之间的准确性差异 。 ”
但在威廉姆斯这起案件中 ， 效果并非如此 。
首先来看犯罪者的人脸数据是怎么来的：Shinola 商店被盗事件发生后 ， 防损公司 Mackinac Partners 的调查员 Katherine Johnston 调取了商店的监控录像 ， 并向底特律警方发送了副本 。 五个月后 ， 即 2019 年 3 月 ， 密歇根州警察局的数字图像检查员 Jennifer Coulson 将录像视频中截取的静止图像上传至 DataWorks Plus 人脸识别数据库 。
Coulson 对图像进行搜索之后 ， 系统给出了一组生成的图像和一组匹配度最高的图像以及匹配度得分 。 这些图像中就有威廉姆斯的驾照照片 。 她将其作为“调查线索报告”发送给了底特律警察 。
重点是 ， 该文件顶部用明确写道：“该文件不是明确证据 ， 仅是调查线索 ， 不能因此逮捕人员 。 ”
【新浪科技综合】人脸识别出错导致无辜路人被捕，但被AI冤枉过的可能不只他一个新浪科技综合2020-08-07 12:15:220阅
文章图片
图3/4“该文件不是明确证据 ， 仅是调查线索 ， 不能因此逮捕人员 。 ” 图片出处：美国民权自由联盟 ， ACLU这也是技术供应商和执法人员在捍卫人脸识别算法时始终强调的一点：这仅是该案的一个线索 ， 而不是强力证据 。 警察在逮捕威廉姆斯之前 ， 调查人员需要找到其他证据证明他犯了盗窃罪 ， 例如目击者的证词 ， 手机中的位置数据或证明他拥有犯罪嫌疑人衣物的证据 。


推荐阅读


上一篇：#新浪科技#恒生指数跌2.3%：阿里巴巴跌4.59% 腾讯控股跌6.84%新浪科技2020-08-07 12:12:130阅

下一篇：「新浪港股」特朗普拟禁止微信交易 腾讯暴跌10%市值蒸发5000亿港元新浪港股2020-08-07 12:15:420阅