马斯克|一副口罩破解刷脸系统！极客戴上它化身马斯克( 二 )
GeekPwn已连续四年设置人脸识别破解项目
南都·AI前哨站注意到 ， GeekPwn已连续四年设置人脸识别破解项目 。
在2017年的大赛上 ， 90后极客tyy仅用两分半钟就破解了汉王的人脸识别门禁 。
系统录入的人脸信息原本属于评委徐昊 ， 但tyy通过获取系统控制权限 ， 直接把人脸信息换成了自己的 。 之后 ， 她轻松通过门禁 ， 徐昊却被“拒之门外” 。
不过 ， 这次破解利用的还是传统安全漏洞 。 用评委于旸的话说 ， 如果把人脸识别门禁比喻成门卫 ， 那么tyy就是把这个门卫一闷棍敲晕了换上自己人 ， 而不是给门卫洗脑让他听话 。
到了2018年 ， GeekPwn新增“CAAD对抗样本攻防赛” 。 极客们开始想办法“给门卫洗脑” ， 也就是针对人脸识别算法本身下功夫 。
当时的题目是把主持人蒋昌建的照片识别成美国知名影星施瓦辛格 。 比赛过程一度胶着 ， 在前十分钟里 ， 六个参赛团队发出的90多次攻击均宣告失败 。
要知道 ， 这次比赛使用的是亚马逊名人鉴别系统（Rekognition）API接口——背后的算法已经有相当成熟的商业应用 ， 此前从未被攻破过 。 连GeekPwn活动创办人、评委王琦都说 ， 可能没有选手能挑战成功 。
但还是有一支队伍给所有人带来了惊喜 。 比赛进行到大约21分钟时 ， IYSWIM战队发起尝试 ， 系统显示：施瓦辛格 。 IYSWIM团队选手吴育昕事后介绍 ， 他利用谷歌的FaceNet开源代码模型攻破了算法 。
2019年 ， 极客们迎来了“CAAD CTF图像对抗样本攻防赛” 。 这次的赛题“脑洞”更大 ， 要让被广泛应用的 Clarifai 人脸识别系统把主持人黄健翔识别成美国总统特朗普的女儿伊万卡 。
和前一年一样 ， 最后只有一支队伍——清华大学和RealAI联合组成的TSAIL战队——成功破解难题 。
他们在当天的另一场比赛里也斩获冠军：借助一张面积仅为196平方厘米的纸片 ， 成功骗过YOLOv3系统和谷歌识别系统 ， 达到了在人体检测中“隐身”的效果 。
但当时 ， TSAIL战队也对南都采访人员提到 ， 系统显示的置信度较低 ， 所以他们不算太满意 。
不难看出 ， 随着人脸识别技术的持续发展 ， GeekPwn也一直在提升赛题难度 ， 推动极客们不断突破自身极限 ， 去发现新技术的潜在风险 。
这也是网络安全的现实缩影：“魔高一尺道高一丈”的网络攻防 ， 永远在路上 。
今年的赛题虽然具有更强的实验性质 ， 但难度也不低 。 极棒实验室负责人王海兵告诉南都·AI前哨站 ， 以往的人脸识别破解主要在线上进行 ， 选手们只需要通过人脸照片完成“数字攻击” 。 而这一次比赛中的戴着口罩去刷脸 ， 相当于“数字攻击+物理攻击” ， 制约要素更多 ， 现实环境的影响更大 。
文章图片
虚假人脸AI识别大赛 。 主办方供图 。
在比赛现场 ， 蒋昌建曾半开玩笑地提醒观众不要随便在网上发照片 ， 不然可能会像他一样被换脸 。
近几年 ， AI换脸信息确实越来越多 ， 而且已经有不法分子绕过金融类应用风控机制的真实案例 。 在这样的情况下 ， 普通人还能安心地晒照片吗？
就此 ， 王海兵也给出专业的建议 。 他说 ， 目前来看 ， 商业人脸识别算法的可靠度和安全性还是可以的 ， AI换脸一般无法轻易突破 。 晒照片带来的家庭地址、行踪轨迹等隐私信息泄露的风险 ， 其实远远高于换脸的风险——一个保护隐私和安全的小诀窍是不要发原图 ， 经过压缩后 ， 图片信息会大大减少 。
“至少公众现在可以暂时放心” ， 王海兵说 。 但他也强调 ， 对潜在风险要给予足够的警惕 。 “我们希望告诉大家有这样一个风险的存在 ， 从而通过研究去避免风险的发生 。 否则 ， 等到将来风险真的发生时再去认识它 ， 可能就来不及了 。 ”王海兵说 。
采写：南都采访人员 冯群星
推荐阅读
- 洪森|洪森紧急指示发放200万只口罩 官方将处罚违反隔离规定者
- 纵相新闻|浙江衢州一氟硅材料工厂发生爆炸，专家：毒性相对较小，可戴口罩防护
- 华盛顿邮报|美国犹他州进入紧急状态 州长宣布实施强制口罩令
- 蜘蛛侠|超级英雄也不例外！“蜘蛛侠”扮演者吁戴口罩防疫
- 阵亡将士|英女王向无名烈士墓碑献花 首次公开戴口罩亮相(图)
- 口罩|口罩下的人脸识别
- “戴口罩”故意遮挡车牌|“戴口罩”故意遮挡车牌，交巡警叔叔严惩不贷
- 运载火箭|中国第二枚民营运载火箭发射成功！创始人：不要急着当马斯克
- 新资讯|小托马斯对懂王的神评论什么水平？｜今日球鞋上脚
- 樊君慧|【图解】出入公共场所请佩戴口罩