人工智能医疗是把双刃剑微小改动就能骗到AI( 二 ) 去年

从识别肺部X光片到大脑CT扫描图像……与过去相比，不断涌现的AI系统能帮助医生更有效、更低成本地去评估病人。未来，这样的AI系统将不仅在医院被广泛使用，还可能为医疗监管机构、账单服务公司和保险公司提供帮助。正如AI帮助医生检查病人的眼睛、肺部和其他身体器官一样，它也能帮助保险公司确定赔付金额和保单费用。

理想情况下，这些系统将有助于提高整个医疗体系的工作效率。然而，美国哈佛大学和麻省理工学院的一组研究人员警告称，这些系统也能会产生难以想象的后果。

3月21日，在《科学》杂志上发表的一篇论文中，提出了“对抗性攻击”的可能性。 “对抗性攻击”是指利用调整微小的数字数据，改变人工智能系统行为的操作。