江苏龙网

  1. 首页 > 人文 > >

「脑极体」需要AI安全这样守护，产业智能化的大江大河( 三 )


目前 ， 大量的AI安全风险已经出现 ， 而且很多以常人难以直观理解的方式出现在AI的应用场景当中 。
「脑极体」需要AI安全这样守护，产业智能化的大江大河
文章图片
比如 ， 在人脸检测和识别场景 ， 攻击者只要对面部的某些部位做出一点修改（比如佩带带有对抗样本图案的眼镜） ， 就可以成功逃脱AI系统的识别 ， 从而实现“伪装”和“隐身” 。 而目前人脸比对识别被广泛应用在于身份认证、手机解锁、金融远程开户、酒店入住登记等等场景 ， 一旦人脸比对识别被恶意攻破 ， 将会对个人信息安全、财产造成难以估计的损失；
在自动驾驶领域 ， 如果在交通指示牌或其他车辆上贴上或涂上一些小标记 ， 也可能导致自动驾驶车辆产生错误判断 ， 可能会导致严重的交通事故 。
而对于安防领域 ， 攻击者对于人脸识别系统的对抗攻击 ， 也会产生相应的监控漏洞和失误 ， 从而带来相应的安全风险 。
目前 ， RealSafe已经应用在工业、安防等多场景的安全检测当中 。 其中最新落地的一个案例 ， 可以很好地说明AI安全风险检测的重要作用 。
某电网的输电塔的监控系统 ， 由于输电塔的高安全性防护要求 ， 防止吊车、塔吊、烟火破坏输电线路 ， 需要对输电塔内外进行全天候的实时监控 。 而这一实时监控系统已经交由某一目标检测的AI算法来提供保障 。
RealSafe发现只要对其AI算法进行一定的对抗样本攻击 ， 就会造成监控算法的失效 ， 从而无法识别非常明显的烟火情形 。 为此 ， RealSafe提供了完整的AI算法检测和AI安全防火墙的搭建 ， 从而最大限度地保证了监控系统的有效性 。
像这些隐蔽的AI安全风险 ， 普通人可能难以理解 ， 但正是这些风险漏洞 ， 成为那些技术黑客、黑产们每天都在潜心研究的薄弱环节 。 更不要说 ， 直接利用AI技术的强大造假能力和低成本复制能力 ， 展开诸如人脸造假、语音克隆、笔迹邮件伪造等引发的诈骗活动 。
而这些AI算法漏洞产生的安全风险和AI算法滥用带来的欺诈风险 ， 成为RealAI及其RealSafe平台持续努力要攻克的安全难题 。
作为国内外最早关注AI安全领域的团队 ， 借助对于AI算法攻防技术的多年研究 ， RealAI提前占据了在AI安全领域的先发优势 。 目前 ， RealAI在攻击方面的多项相关技术成果已经发表在国际顶级的学术刊物上 ， 形成了业内较高的竞争壁垒 。 未来 ， RealAI也表示 ， 会通过举办一些AI安全的攻防比赛 ， 吸引更多AI人才参与到AI安全领域 ， 基于RealSafe的平台发现更多的安全隐患和防御手段 ， 形成更为完善的AI安全生态 。
RealAI团队也意识到 ， 保持RealSafe平台的技术优势 ， 也必须同产业场景真实的AI安全需求联系起来 。 目前 ， RealAI已经在工业设备质检、金融精准营销、信贷风控、反欺诈等业务场景开展了多项业务 。 通过AI模型应用对这些产业业务本身带来效益提升外 ， 同时也将能够更好地来发现业务本身可能存在的安全风险漏洞 ， 反过来可以更好地支持算法模型优化 。
「脑极体」需要AI安全这样守护，产业智能化的大江大河
文章图片
如果将产业智能化升级看作一条蓄势向前的河流 ， 那么 ， AI算法的丰富拓展了产业智能化场景的广度 ， 其成熟和升级决定了产业智能化的深度 ， 而AI算法的安全可靠 ， 则决定了产业智能化的长度 。
如果在AI的产业场景应用中 ， 一旦存在着致命的安全风险或者其他法律、道德风险 ， 那么将直接造成某一项AI技术停滞或者AI在产业规模化应用的延迟 。
AI安全的重要性再无须赘述了 ， 而加强AI算法安全意识 ， 提升产业应用场景下的AI算法安全防护能力 ， 则已经是当下非常重要而紧迫的要求了 。
幸而 ， 以RealAI为代表的这些顶尖AI团队早已开始了这一AI安全领域的征程 ， RealSafe平台也正在以标准化的、低学习门槛、低成本应用的方式来实现AI算法检测的产品化服务 。


推荐阅读


上一篇：【毕加索的冰】【营销利器】多媒体信息发布系统,为城市生活增添创意体现!

下一篇：「美股研究社」3，特斯拉计划扩充中国产品线，将推国产长续航版Model