故事传记|人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？视频|法案|美国|R

_原题为 人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？

文章图片
《亲爱的数据》出品

原创：谭婧

特朗普抬起左手，手指捋一捋炸毛的亮黄色头发，右手紧握美国总统特制签名笔，笔尖流水般滑过米白色纸面，墨水凝结，字迹微干。
大名鼎鼎的美国《2019年国防授权法案》，经参众两院审议，由美国总统签署生效。这一刻，也标志着，数字伪造技术（Digital Content Forgery）正式被写入大国史册。
每一年，海量的技术专利如潮水般问世，为何这一项技术写入《法案》？
如今，信息以光速传播，错误信息，混杂其间。小蒙小骗，大欺大诈，干扰选举，煽动暴力，搅动政局……
谣言动动嘴，辟谣跑断腿。还有一个噩耗，人工智能也掺和进去了。
阳光普照，人工智能赋能百业千行，挽起袖子进车间厂房，提起裤腿下田间地头。阳光照不到的地方，在Boss直聘上高薪诚聘“资深人工智能算法专家”的也可能是黑色产业。
早在2018年，一段骂特朗普的视频在全美疯传。骂人者不是别人，正是美国前总统奥巴马，他在视频中一本正经：
“Simply, President Trump is a total and complete dipshit. （简而言之，特朗普总统就是个彻头彻尾的笨蛋。）”

文章图片
《亲爱的数据》出品
这个视频无疑是伪造的。
吃瓜群众，喜大普奔。
特朗普，咬牙切齿。以特朗普的个性，很可能对深度伪造（DeepFake）这一人工智能新技术怀有私愤。
人工智能的进步，导致计算机能随心所欲地让视频中的人物“变脸” ，人声“变调” 。有视频和录音“为证” ，掀起一场彻底粉碎“不在场证据”的狂欢。
未来的趋势是，技术审查和政府监督的鞭子会越抽越狠。手举鞭子吓唬人的昨天已逝，现在是一鞭子下去，得皮开肉绽。
在人工智能高超的造假能力未受重视之前，美国政府也只是消极防御。有一天，华盛顿的国会山知道了一件事——“外国不法分子伪造信息祸害美国大选” ，他们的态度立刻反转。

文章图片
《亲爱的数据》出品
《深度伪造技术报告法案》（DeepFake Report Act）自2019年6月下旬引入，仅仅120天之后，就作为独立法案，在参议院获一致通过，并转交给众议院消费者保护和商业小组委员会。
两院“围剿” ，毫无悬念。
《法案》定义， “深度伪造技术”正式归为“数字内容伪造” ，是“使用新兴技术（包括人工智能和机器学习技术）来制造或操纵音频、视觉或文本内容，以达到误导他人的目的” 。
《法案》规定，美国国土安全部负责对“数字内容伪造技术”详尽调查，此后得定期汇报。法案颁布之日起5年内，国土安全部部长每年向科学技术部长提交报告。
【故事传记|人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？】两部“碰头” ，铁板钉钉。
层层警报，级级重视，美国最高司法机构的态度，越描越明确。
深度伪造技术，是一次技术的滥用。啼笑皆非的是，这一技术的开源社区还非常活跃，软件可以上网免费用， “科技作恶”的门槛一降再降。
若以“假脸”论英雄，深度伪造，可谓风光一时。
殊不知，人工智能暗藏一股更强大的力量——对抗样本（adversarial sample）技术。
掌握了对抗样本，
只戴一副打印的纸眼镜，就可以“弄瞎”手机锁屏的人脸识别。
掌握了对抗样本，
破解APP人脸识别功能，可以分分钟假冒支付宝用户消费、授权网银转账、冒充滴滴专车司机。
一场你想是谁就是谁的表演，即将上演。

文章图片
《亲爱的数据》出品
这是新一代黑客秘籍，而江湖却只闻其声。
镜头一：人工智能学派，几十年来沐雨栉风，几经浮沉。一代宗师甩袖抛给弟子一本《对抗攻击算法拳谱》，飘然远走。
镜头二：黑客在大雨中狂奔，一个剧烈的跪滑，表情狂放，仰天长啸：“到底什么是对抗样本？”
镜头三：视频网站B站，瑞莱智慧RealAI公司（下文简称“RealAI公司”）的研究人员，戴上一副纸眼镜，秒级“弄瞎”人脸识别算法。
这已经不是我第一次寻访研究对抗攻击算法的科学家，这次我探访到了RealAI公司的安全算法负责人，萧子豪。