江苏龙网

  1. 首页 > 资讯 > 资讯 > >

故事传记|人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？( 六 )


文章图片
《亲爱的数据》出品
故事传记|人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？
文章图片
《亲爱的数据》出品
宋乐教授告诉我的第一句话是：“You can say that.（你可以这么说 。 ）”
他解释道：
“深度学习网络的鲁棒性还有很多没研究透彻之处 。 这包括模型设计、模型训练等一系列问题 。 比如 ， 模型设计上 ， 如何设计神经网络 ， 让它只关心人眼关心的信号 ， 以及能像人一样在识别人脸时 ， 把感知（perception）和符号化推理（symbolic reasoning）结合起来 。 ”
“再比如 ， 人在看不太清楚和有疑虑的时候 ， 会主动把注意力放在脸部细节上 ， 比如嘴巴和眼睛的形状 ， 或者脸上的表情 ， 通过判断和推理细节的正确组合来进一步识别 。 深度学习网络还不能作到这一点 。 所以 ， 后续研究的一个重要问题是：如何让深度学习把感知和符号化推理相结合？
我相信 ， 这也是人工智能下一步的重要研究方向 。 ”
故事传记|人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？
文章图片

故事传记|人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？
文章图片
《亲爱的数据》出品
人工智能的今天 ， 百姓日用为道 。
而学术界众人皆知的秘密——深度神经网络容易受到对抗样本的攻击 ， 通过添加难以察觉的扰动来误导分类器 。 这也是质疑人工智能技术不够安全的原因之一 。
而工业界众人皆知的秘密——深度神经网络的安全性和性能同步增长是非常困难的事情 。 鱼和熊掌如何兼得？
一部分人关心 ， 人工智能够不够聪明？
一部分人关心 ， 人工智能够不够安全？
世事不难 ， 我辈何用 。 科学家们早已出发 ， 他们决心深入腹地 ， 探索人工智能的未来 。
于是 ， 对抗样本的论文 ， 以步兵的姿态进入人工智能所有顶级学术会议 。
在铿锵的步履声中 ， 开源社区的军号声辽远响起 ， 集结力量 ， 呼唤创新 。
哪里有唾手可得的对抗算法开源？
第一波 ， 由谷歌员工开源的代码库Cleverhans ， 用于对对抗示例漏洞进行基准测试 。 这是全球最早的开源项目 ， 其中也有清华大学计算机科学与技术系人工智能研究所董胤蓬博士的贡献 。
故事传记|人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？
文章图片
《亲爱的数据》出品
第二波 ， IBM公司的对抗性鲁棒性工具箱（ART） ， 是目前用于机器学习安全性做得最好的 ， 最全面的代码库 。 IBM公司花了很多力气在做对抗算法 ， 也一直在推对抗样本攻击算法与可解释的人工智能 。
第三波 ， 德国图宾根大学开源代码库Foolbox 。 它提供了大多数已发布的对抗性攻击方法 ， 用于基准测试 。
截至目前 ， 没有工业级别的开源对抗模型 ， 开源代码还停留在学术数据集上使用的阶段 。 没有定制化的修改 ， 工业界依然高度依赖学术界分享的成果与信息 。 全球顶级大厂也把对抗样本技术用在知名产品身上 ， 比如IBM公司的沃森 ， 亚马逊公司的Alexa ， 这一次 ， 对抗样本的责任不是攻击 ， 而是保护 。
特朗普若有座右铭 ， 那定是“顺我者昌 ， 逆我者亡” 。
他还对假视频恶搞之仇怀恨在心 。 美国总统办公室里咖啡杯摔碎了 ， 还传来咒骂声：“那个深度伪造技术 ， 你们都给我盯紧一点 ， 连我也敢戏弄 。 ”
天下一物降一物 ， “深度伪造技术”也有克制之法 。
田天博士告诉我：“深度伪造技术并非万无一失 。 生成的造假视频的画面中会有不自然的纹理存在 ， 让其学习正常情况中的纹理特征 ， 再以此检测造假视频中不一致的纹理 ， 这一方法可以用于打假 。
自古文无第一 ， 武无第二 。
“对抗样本”与“深度伪造技术”都可以造假 ， 到底谁更牛？
田天博士回答道：“对抗样本是探究神经网络的学习原理 ， 而深度伪造技术属于神经网络的应用 ， 如果要一较高下 ， 做应用比研究原理简单一些 。 ”
故事传记|人工智能骗人工智能：黑客如何“弄瞎”人脸识别算法？
文章图片
《亲爱的数据》出品
“无论何时 ， 只要人们谈及网络空间安全形势 ， 一定会用形势严峻、应对能力不足等悲观说法 ， 这往往会让决策者感到迷惑：网络空间安全领域为何总是缺少作为呢？”
2020年5月 ， 方滨兴院士在《人工智能安全》一书中给出的解释是 ， 新技术必然会带来新的安全问题 ， 这是“伴生效应” 。
踏过 ， 字符的河流 ，
趟过 ， 贝叶斯的浅滩 ，
互联网的信徒向赛博空间祈祷 ，
请赐理想之地 ，
只要纯净 ，
只要安全 。
可惜现代繁华包庇恶俗 ，
可惜物理世界暗藏杀戮 ，
祈祷纯净 ， 不如为良知祷告 。
寻找理想之地 ， 创造者们划着船 ， 雄浑地行在曲折的水道中 ， 他们的前进 ， 有风、有浪 ， 更有生命的激情 。


推荐阅读


上一篇：湖北利川:检察建议关注群众＂脚下安全＂

下一篇：福建南靖:开展联合执法检查筑牢企业安全生产防线