人工智能医疗是把双刃剑 微小改动就能骗到AI( 七 )

2018年 , 一个研究团队也设计了类似的实验 。 他们让一名亚洲科学家戴上一顶帽子 , 将红外光从帽檐下方投射到他脸上 。 红外光是人眼不可见的 , 但它可以欺骗面部识别系统 , 让它错误识别佩戴者 。

有研究曾警告称 , 对抗性攻击能欺骗无人驾驶汽车 , 让它们看到不存在的东西 。 通过对路标做一些微笑的改动 , 就导致汽车AI系统将停车标志错误地识别为让路标志 。

去年底 , 美国纽约大学坦顿工程学院的一个研究团队创造了一种虚拟指纹 , 在22%的情况下 , 成功骗过了指纹识别器 。 即使用这些指纹识别器的手机或个人电脑 , 有22%可能被解锁 。

鉴于生物特征安全设备和其他人工智能系统的日益普及 , 这项研究的影响极其深远 。


推荐阅读