江苏龙网

  1. 首页 > 资讯 > 资讯 > >

故事传记|人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？( 五 )


虽然 ， 现在深度学习+安全的应用场景还比较有限 ， 能被攻击的对象比较少 ， 但是 ， 未来潜在威胁会越来越多 。
虽然 ， 对抗样本攻击在许多场景下还需要适应性地调整和优化 ， 但是 ， 尤擅此类的黑客还比较少 ， 技术还处于起步阶段 。
明刀易躲 ， 暗箭难防 。
潜在的危险比已知危险更有破坏力 。
前沿论文中的理论告诉我们：
“评估最新的人脸识别模型在基于决策的黑盒攻击环境下的鲁棒性 ， 即无法访问模型参数或梯度 ， 只能通过向目标模型发送查询来获取预测标签 。 这种攻击在实际情况的人脸识别系统中更为实用 。 ”
“一种基于演化算法的高效攻击方法 ， 充分利用搜索空间的局部几何特性 ， 并通过降低搜索空间的维数来提高攻击效率 。 大规模实验表明 ， 该方法比已有的攻击方法更高效 ， 能够以较少的查询对输入的人脸图像产生最小的扰动 。 ”
对新技术敏感的人 ， 齐声高呼：“人工智能变身黑客啦 ， 求解救 ， 在线等 ， 挺急的 。 ”
对新技术麻木的人 ， 半眯着眼睛 ， 不屑一顾地说：“我们这里 ， 还没有这样的情况（需求） 。 ”
老警察会告诉你 ， 凌晨三四点是入室盗窃的高发时段 。 人在熟睡中 ， 一时半会还觉察不到被贼偷了 。 黑产对企业进行攻击也是如此 ， 很有可能没有被发现 ， 一切还在不知不觉中 。
有人可能会说 ， “人工智能换脸”这种好事 ， 还是请领导和土豪先试用 。 毕竟 ， 黑客肯定盯着高端人士 ， 未必轮得上群黎百姓 。
殊不知 ， 给视频中人脸造假的暗潮 ， 汹涌 。
根据创业公司Deeptrace的报告 ， 到2019年初 ， 互联网上流传的视频 ， 可以确定为深度伪造技术生产的 ， 有7964个 。 仅仅9个月后 ， 这个数字就跃升至14678个 。 根据生活赋予我们的吃亏经验 ， 如果没有工商部门的强势执法 ， 造假的产量不会下降（除非销量不好） 。
现实中 ， 专门制造假货的江南皮革厂可以倒闭 ， 而深度伪造技术软件则是免费复制 。 造假和欺骗是一种病毒 ， 还会变成流行性病毒 。
在图像识别、语音识别等模式识别任务中 ， 深度学习的准确度超越了人类 ， 这也就是近几年的事 。 辉煌战绩一眨眼就散去 ， 技术缺陷和可解释性问题倒像个没有尽头的迷宫 。
的确 ， 人工智能刚有点能耐 ， 就受到攻击 ， 这真是够闹心的 。 深度神经网络的台词是：“我很man ， 是硬科技 ， 也有脆弱的一面 。 ”
那人脸识别算法厂商又如何看待对抗攻击算法商业化落地呢？
一位国内著名安防公司的研发副总裁 ， 这样对我说：
“这种新闻一开始很吓人 ， 尤其是当YOLO V3 这种著名的神经网络被攻破的消息传出来后 ， 公司总裁专门把报道用微信转发给我看 。 我们研发团队内部也专门分派人手去分析研究 。 ”
“对于这一趋势 ， 我有两方面的态度 ， 一方面 ， 对抗算法的商业化落地 ， 不算是对人脸识别算法厂商的叫板 。 攻破后 ， 我们就需要在网络结构设计上再动脑筋；另一方面 ， 这不是一件坏事 ， 反而带来新思路 ， 都在为提高算法鲁棒性努力 。 值得重视的是 ， 如果在人脸识别算法的竞标中 ， 增加对抗样本的测试环节 ， 会对行业产生震动 。 ”
他还补充道：“对抗算法开发难度较大 ， 相信各方都在努力 。 未来 ， 对抗算法究竟有多大的能量 ， 大家都要拭目以待 。 ”
RealAI公司CEO田天博士的观点也同样不拘泥于算法间的针锋相对 ， 他关注对抗算法给人工智能产业安全带来的价值 。
故事传记|人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？
文章图片
《亲爱的数据》出品
他说道：
“其实 ， 我们的目标客户并不是人脸识别算法公司 ， 除了我们推测他们会自己开发对抗样本相关技术之外 ， 我们更希望能够影响那些采购人脸识别算法的企业 ， 以及权威的评测机构和政府监管者 ， 推动人工智能产业安全能力的提升 。
比如国家电网集团采购了（我们公司的）算法和检测平台 ， 用于对集团内部的目标检测类算法（安防、电力设备、电路巡检）进行评测 ， 为保障电网运维安全贡献价值 。 ”
几千年前的楚国 ， 有人一手持矛 ， 一手持盾 ， 在街头叫卖 ， 旁人指出 ， “以子之矛 ， 陷子之盾 ， 何如？”
人脸识别算法和专攻人脸的对抗算法 ， 表面上犹如长矛与盾牌 。 如果仅靠嚷嚷谁的技术更厉害 ， 未免愚蠢 。 产业的要求是 ， 算法的安全级别更上一层楼 ， 是在人工智能算法的研发周期里加一道防火墙 。
我们从攻防、对抗 ， 讨论到了人工智能的根基 ， 能不能下结论说“深度神经网络”的鲁棒性还不够好？原因是不是我们研究得还不够透 ， 不够深入？
这个问题 ， 我也请教了佐治亚理工大学计算科学与工程系终身副教授 ， 机器学习中心副主任宋乐教授 ， 他与清华大学朱军教授并列顶级学术会议 ICLR 2020 华人贡献榜首位 。
故事传记|人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？


推荐阅读


上一篇：湖北利川:检察建议关注群众＂脚下安全＂

下一篇：福建南靖:开展联合执法检查筑牢企业安全生产防线