人工智能医疗是把双刃剑微小改动就能骗到AI( 六 ) 去年

这篇论文加剧了人们对“对抗性攻击”可能性的担忧，从人脸识别服务、无人驾驶汽车到虹膜扫描仪和指纹识别器，其攻击的目标可谓包罗万象。

对抗性攻击利用了众多AI系统设计和构建的一个基本方面——神经网络。人工智能越来越多地受到神经网络的驱动，而神经网络本身是一种复杂的数学系统，通过分析大量数据独立学习任务。例如，通过分析成千上万的眼部扫描图像，神经网络可以学会如何监测糖尿病视网膜病变的征兆。但这种“机器学习”是建立在巨大规模的基础，一旦接收到不正确的信息， AI系统可能产生意想不到的行为。

2016年，美国卡耐基梅隆大学的一个研究小组通过印在眼镜框上的图案，成功骗过了面部识别系统，让其误以为戴眼镜的是名人。