江苏龙网

  1. 首页 > 资讯 > 科技 > >

中年|给照片穿上“隐身衣”，最强人脸识别算法也失灵！业界推出最新AI工具Fawkes，帮你保护照片隐私数据( 二 )


?不管跟踪器（Tracker ）如何训练其模型 ， 图像伪装都可为用户识别提供95％以上的保护 。
?结果使用Microsoft（Azure Face API） ， Amazon（Rekognition）和Face ++的最新面部识别进行检测 ， Fawkes模型可以100％成功 。
对于以上的研究发现 ， 论文中也给出了明确的说明 。 我们可以看到 ， 整个系统分为用户图像和模型验证两个阶段 。
中年|给照片穿上“隐身衣”，最强人脸识别算法也失灵！业界推出最新AI工具Fawkes，帮你保护照片隐私数据
本文插图


前者是基于Fawkes算法来生成用户图像的伪装版本 ， 后者是通过追踪器（Tracker ）从网络资源中检索伪装的图像 ， 并使用它们来训练未经授权的面部识别模型 。 最终可以发现模型输出的图像与原始图像并不相同 。
其中 ， Fawkes算法整个系统的关键 。 在这里 ， 研究人员利用特征提取器Φ和目标图像T ， 对原始图像进行伪装处理 ， 这些目标图像T均来自可公开获得的数据集（均大于500K） 。
中年|给照片穿上“隐身衣”，最强人脸识别算法也失灵！业界推出最新AI工具Fawkes，帮你保护照片隐私数据
本文插图

为了确保伪装图像在视觉上与原始图像基本相似 ， 研究人员采用DSSIM来衡量二者的差异 ， 实验结果表示 ， DSSIM均小于0.007 。 （DSSIM是衡量用户感知图像失真程度的方法） 。
此外 ， 研究人员认为 ， 通过提高用户特征提取器的鲁棒性来实现可移植性 。 这一目标需要通过对抗训练来完成 。 该训练采用扰动数据训练模型 ， 可以使输入的目标图像不那么敏感 。 具体来说 ， 对于每个特征提取器 ， 使用PGD攻击（一种广泛用于对抗训练的方法）来生成对抗示例 ， 然后将更新后的特征提取器用于在PubFig和FaceScrub数据集上生成用户伪装图像 。
中年|给照片穿上“隐身衣”，最强人脸识别算法也失灵！业界推出最新AI工具Fawkes，帮你保护照片隐私数据
本文插图


结果表明 ， 每个健壮的特征提取器都会产生隐身衣（Cloaks） ， 而且这些隐身衣几乎可以完美地转移到跟踪器的模型中 。 可以看到 ， 跟踪器使用其他特征提取器时 ， 其隐身衣的保护成功率均大于 95％ 。
最后为验证图像实际的伪装效果 ， 研究人员将经过Fawkes处理过的图像泄露给了基于云平台的面部识别系统 ， 包括Microsoft Azure Face， Amazon Rekognition 和Face ++。
中年|给照片穿上“隐身衣”，最强人脸识别算法也失灵！业界推出最新AI工具Fawkes，帮你保护照片隐私数据
本文插图

这些是面部识别系统是全球最领先技术 ， 被广泛用于美国和亚洲的企业 ， 警察 ， 私人实体以及政府 。 结果来看 ， Fawkes对图像的保护率达到了100% 。
需要了解论文详细内容 ， 可点击链接：https://www.shawnshan.com/files/publication/fawkes.pdf
引用链接：雷锋网雷锋网雷锋网
https://github.com/Shawn-Shan/fawkes
https://www.nytimes.com/2020/08/03/technology/fawkes-tool-protects-photos-from-facial-recognition.html
https://www.theverge.com/2020/8/4/21353810/facial-recognition-block-ai-selfie-cloaking-fawkes


推荐阅读


上一篇：互联网|从社区黑话、评论区运营角度，谈谈内容社区氛围如何运营

下一篇：Array,Array|【会议直击】香港电讯5G上客达10万名 目前研究与医疗建筑等行业合作