江苏龙网

  1. 首页 > 人文 > >

「脑极体」需要AI安全这样守护，产业智能化的大江大河

当前 ， 诸如图像识别、语音识别、自然语言翻译等AI技术已经在移动互联网、新型产业甚至众多传统产业领域得到普遍部署和广泛应用 。 以机器学习、深度学习为核心的第二次人工智能的加速成熟 ， 终于迎来了人工智能技术的高光时刻 。
无论是国家、科研机构 ， 还是科技企业和各个产业 ， 也都在以满怀憧憬的热情来推动着AI从科研学术成果走向产业落地 。
AI技术的普及速度确实远超历次新技术革命带来的产业速度 ， 其应用的规模和深度也正在像电力、石油、互联网一样 ， 被看作新的生产生活的基础设施 。
「脑极体」需要AI安全这样守护，产业智能化的大江大河
文章图片
在备受AI技术广阔前景的鼓舞之时 ， 人们也开始意识到AI技术本身也是一把双刃剑 。
AI既能推动生产效率的提升和产业的数字化智能化水平的提升 ， 同时又能带来全新的技术风险和隐私伦理问题 ， 成为新型诈骗犯罪、黑产牟利的趁手工具 。
更重要的是 ， AI技术本身也存在一大隐忧 。 当前主流的深度神经网络等技术具有的“黑箱属性” ， 导致AI算法存在不可解释性 。 这也就意味着AI技术在算法安全性上存在着不确定因素 ， 可能会在产业应用落地中出现各种安全隐患和风险 。
正如随着计算机技术和互联网的诞生 ， 计算机病毒、网络攻击等危害网络安全的技术便如影随形 ， AI技术的出现和发展也将始终伴随着AI安全的种种问题相伴而行 。
AI技术带给产业的革命性变革的规模、价值越大 ， 那么 ， 其安全问题所导致的严重后果的影响也就越大 。
当身处数字化转型升级的各个产业正在享受这一波新的智能化技术红利的时候 ， AI安全问题 ， 就如同网络安全、信息安全一样 ， 被提上产业数字化建设的日程表了 。
“看不到”的AI安全风险
提及AI安全问题 ， 很多人第一反应可能是 ， 通过AI技术进行人脸造假、AI仿声、AI仿写假新闻、图像及视频造假等带来的欺诈、隐私安全问题 。
确实 ， 当人们惊叹于AI技术几乎快要无所不能的时候 ， 也能很直观地意识到AI造假带来的这类安全问题 。 毕竟AI造假既有舆论话题 ， 又与大众息息相关 。
但是对于AI技术本身所蕴藏的算法安全风险 ， 大众则可能没有非常直观的理解 。
「脑极体」需要AI安全这样守护，产业智能化的大江大河
文章图片
而这一AI安全风险 ， 则是因为这些算法被当做“成熟”技术 ， 广泛应用在产业的各个生产场景当中 ， 因而造成更为隐蔽但同样后果非常严重的次生安全问题 。
首先 ， AI算法本身存在安全漏洞 。 因为各类机器学习的高度复杂 ， 带来的“黑箱问题”使得算法不可解释 。 这就如同我们乘坐在一架不知道由什么原理制造的发动机驱动的飞船上 ， 看似效果还不错 ， 但是一旦出现问题 ， 发明者也只能从“发动机”外部进行各种“尝试性”修正 。
其次 ， 算法的“黑箱问题”会引发各类AI系统安全风险 ， 比如恶意机器学习的产生 。 攻击者可以利用AI技术漏洞进行“对抗样本攻击”和“数据污染攻击”等种种手段 ， 使得AI系统出现判断失准等问题 。
最后 ， 当这些AI系统应用于某些安全性要求极高的领域 ， 比如安防监控、工业质检、自动驾驶、金融风控以及医疗诊断上面 ， 一旦AI出现判断偏差 ， 将会带来直接的经济财产损失 ， 甚至是人身安全与健康风险等严重后果 。
原本要应用于提升生产效率和安全性的AI技术 ， 却有可能走向自身的反面 。 AI算法安全问题必须引起这些积极投入智能化的产业决策者的重视 ， 同样这一问题也需要得到来自AI技术研究者的积极回应 。
建造AI算法安全的长城
在2018年 ， 信通院发布的《人工智能安全白皮书》就将“算法安全风险”列为AI领域的六大安全风险之一 ， 指出AI算法当中存在的五种风险：算法黑箱、算法设计缺陷、数据依赖、对抗样本攻击、算法歧视 。


推荐阅读


上一篇：【毕加索的冰】【营销利器】多媒体信息发布系统,为城市生活增添创意体现!

下一篇：「美股研究社」3，特斯拉计划扩充中国产品线，将推国产长续航版Model