戴上“白帽子” 人工智能投身网络安全攻防战( 七 ) 戴上“白帽子

“一个真实环境中的人工智能系统，会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。 ”张德岳告诉科技日报采访人员。

张德岳举例说，在数据安全方面，在数据收集与标注时出现错误或注入恶意数据，将导致数据污染攻击；在模型/算法安全方面，针对人工智能算法存在黑盒和白盒对抗样本攻击，可导致识别系统出现混乱；在实现安全方面，除了人工智能系统本身的代码实现，其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞，也都可能导致严重安全问题。

“人工智能对现有网络安全格局的影响，离不开算法、数据和计算能力3个方面，其容易遭受攻击的弱点也来自于此。 ”闫怀志总结说。