江苏龙网

  1. 首页 > 资讯 > 资讯 > >

如果AI是孙悟空，谁来念“紧箍咒”？( 二 )


文章图片
图源/Pixabay
面对AI带来的风险 ， 何积丰在此次世界人工智能大会上给出了包括隐私保护、公平建模、主动防御、伦理法律等方面的对策 。 “系统伦理的开发也是人工智能安全对策之一 ， 因为AI系统试图对人的行为进行智能调控 ， 不仅会放大原有的伦理问题 ， 还会产生新伦理问题 ， 如何降低伦理问题也是AI系统的关键挑战之一 。 ”何积丰表示 ， 开发也要遵循几个原则 ， 比如透明性、可控性、安全性、保密性 ， 从人性的角度解析数据 ， 调节AI系统的应用 ， 避免极端差异与不平等的情况 。
因此 ， 要打造负责任的AI ， 确保其决策透明 ， 尤其需要开发可翻译、可解释的人工智能模型 ， 以了解人工智能是如何做出这些决策的 。
03
数据和算法为当前重点治理对象
现在 ， 在AI领域进行战略性布局的国家日益增多 ， 各国的治理原则逐步转向可落实的框架 。
中国是AI发展的高地 ， 2019年6月 ， 国家新一代人工智能治理专业委员会正式发布了《新一代人工智能治理原则——发展负责任的人工智能》 ， 提出了中国在人工智能治理的框架和行动指南 。
如果AI是孙悟空，谁来念“紧箍咒”？
文章图片
图源/中华人民共和国科学技术部
而在此次世界人工智能大会上 ， 新成立了上海国家新一代人工智能创新发展实验区专家咨询委员会治理工作组 ， 同时发布了“协同落实人工智能治理原则的行动建议” ， 发展“负责任的人工智能” ， 提出“一平台、四工作、四体系”的系统落实人工智能治理原则的行动方案建议 ， 其中“四体系”是指评估体系、监管体系、人才体系、保障体系 ， 包括研发AI合规的指标体系和测试平台、建立公开透明的人工智能监管体系、在AI专业开设治理相关课程等 。
在王迎春看来 ， 这些建议和规范既要保护相关企业创新的火力 ， 也要促进AI更加健康地发展 。 “过去 ， AI以效率有限 ， 现在开始进入健康和高质量的发展阶段 。 ”
但是 ， 中国在人工治理方面也面临着不小的挑战 。 清华大学苏世民书院院长、国家新一代人工智能治理专业委员会主任薛澜在世界人工智能大会上表示 ， 数据治理、算法正义、权责划界是主要挑战 。 “现有的治理体系中缺乏对数据权属和使用的清晰规定 ， 数据和隐私保护问题突出；算法监督能力薄弱 ， 引发算法歧视的原因通常难以跟踪；互联网平台中个性精准化的服务实际上将市场分割成了一个个独立的个体 ， 隔断了消费者的搜寻行为 ， 而平台是唯一的‘知情者’ 。 ”薛澜说 。
对此 ， 薛澜建议 ， 未来 ， 中国要加强基础研究降低技术风险、建立多元共治的人工智能伦理治理体系、明确把数据和算法作为当前重点治理对象、结合具体应用场景规范人工智能伦理、利用技术和规范并行推动提高治理能力 。
04
技术必须放到场景里
实际上 ， 不仅是政府相关部门 ， 和AI相关的企业也在不断加强人工智能治理方面的研究 ， 科大讯飞董事长刘庆峰表示人工智能既要人机合作 ， 更要法律、伦理协同进步；今年1月 ， 旷视宣布成立AI治理研究院 ， 并发布《全球十大AI治理事件》 。
如果AI是孙悟空，谁来念“紧箍咒”？
文章图片
图源/网络
最近 ， 海内外对人脸识别技术有诸多讨论 ， 包括被应用到什么场景、对于数据隐私安全的保护等 。

《IT时报》采访人员从旷视了解到 ， 对于算法的公正性、公平性和人脸识别的技术在什么场合下使用是符合伦理应用准则的 ， 旷视计划在未来一年中能够做一到两个深度研究 。 “我们要对重点议题进行深度研究 ， 数据安全和隐私保护是重中之重 。 旷视已经联合北京智源人工智能研究院开展研究 ， 预期将形成一套面向数据全生命周期保护 ， 针对采集、传输、存储和使用四个环节的AI基础平台 ， 建立一套相关的AI数据安全与隐私保护机制 。


推荐阅读


上一篇： 成团|《青春有你2》还未正式成团出道，虞书欣已获更多资源被力捧！

下一篇： 让自己|三观很正的短句，生活感悟！