江苏龙网

  1. 首页 > 人文 > >

陈根|陈根：为什么我们需要警惕人工智能？( 三 )


中国信息通信研究院安全研究所发布的《人工智能数据安全白皮书（2019年）》也提到了这一点 。 白皮书指出 ， 人工智能自身面临的数据安全风险包括：训练数据污染导致人工智能决策错误；运行阶段的数据异常导致智能系统运行错误（如对抗样本攻击）；模型窃取攻击对算法模型的数据进行逆向还原等 。
值得警惕的是 ， 人工智能与实体经济深度融合 ， 医疗、交通、金融等行业对于数据集建设的迫切需求 ， 使得在训练样本环节发动网络攻击成为最直接有效的方法 ， 潜在危害巨大 。 比如在军事领域 ， 通过信息伪装的方式可诱导自主性武器启动或攻击 ， 可能带来毁灭性风险 。
陈根|陈根：为什么我们需要警惕人工智能？
文章图片
人工智能时代的攻与防
未来的机器时代是道高一尺魔高一丈的世界 ， 而今天的网络安全问题早已突破了虚拟与现实的边界 。 国家与地域的边界 ， 成为广泛存在的全球性问题 。 网络安全是一个庞大的系统工程 ， 构建这个系统则需要以全球的深度连接为基础 。
此外 ， 网络安全要以人与人工智能的共同值守为特征 。 随着各类互联网技术的爆发式成长 ， 网络攻击的手段也不断丰富和升级 ， 但是唯一不变的就是变化本身 。 防御网络攻击 ， 必须具备快速识别、快速反应、快速学习的能力 。
如果是病毒威胁入侵 ， 用机器学习检测的方法 ， 势必很难解决 。 因此 ， 只有在综合的技术运用下 ， 理解信息泄露及其中的关联 ， 弄清黑客如何入侵系统 ， 攻击的路径是什么 ， 又是哪个环节出现了问题 。 找出这些关联 ， 或者从因果关系图谱角度进行分析 ， 增加分析端的可解释性 ， 才有可能做到安全系统的突破 。
对抗网络安全的风险还需要拥有智慧的动态防御能力 ， 网络安全的本质是攻防之间的对抗 。 在传统的攻防模式中 ， 主动权往往掌握在网络攻击一方的手中 ， 安全防御力量只能被动接招 。 但在未来的安全生态之下 ， 各成员之间通过数据与技术互通、信息共享 ， 实现彼此激发 ， 自动升级安全防御能力甚至一定程度的预判威胁能力 。
当然 ， 网络安全本来就是一个高度对抗、动态发展的领域 ， 这也给杀毒软件领域开辟了一个蓝海市场 。 人工智能杀毒行业面临着重大的发展机遇 ， 杀毒软件行业首先应该具有防范人工智能病毒的意识 ， 然后在软件技术和算法安全方面重视信息安全和功能安全问题 。
以现实需求为牵引 ， 以高新技术来推动 ， 就有可能将人工智能病毒查杀这个严峻挑战转变为杀毒软件行业发展的重大契机 。


推荐阅读


上一篇：购车小助理|售价294.112万 惹不起，逆天SUV跑出3.6秒的百米成绩

下一篇：三亿科技|长曝光功能即将下放给小米10，MIUI12区域截屏正式上线