江苏龙网

  1. 首页 > 人文 > >

「腾讯研究院」欧盟人工智能安全和责任报告


「腾讯研究院」欧盟人工智能安全和责任报告
本文插图
作者 | 乔婷婷 腾讯研究院助理研究员
2020年2月19日 ， 欧盟委员会发布《关于人工智能、物联网、机器人对安全和责任的影响的报告》（Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics） ， 该报告介绍了当前的欧盟产品安全制度 ， 并探讨了如何对其进行改进 ， 以应对人工智能（AI）、物联网（IoT）和机器人技术领域的不断创新发展 。 全文包括三大部分 ， 首先概述了现有的安全和责任框架 ， 人工智能、物联网和机器人技术的特征以及创造的机遇；其次阐述了人工智能、物联网和机器人技术对安全框架的挑战及应对；最后阐述了其对责任框架的挑战及应对 。
人工智能、物联网和机器人技术将为社会创造新的机遇和价值 。 欧盟委员会理解这些新兴数字技术的重要性和潜力 ， 以及在上述领域大量投资的必要性 ， 进而致力于使欧洲获得人工智能 ， 物联网和机器人技术的世界先进地位 。 为了实现这一目标 ， 需要一个清晰 ， 可预测的法律框架来应对技术挑战 。 本文将简要介绍人工智能、物联网和机器人技术对安全和责任框架的挑战及应对方式 。
一、概述
（一）现有的安全和责任框架
安全和责任框架旨在保障所有产品和服务的安全、可靠、同步运行 ， 并救济可能出现的损失 。 欧盟拥有健全的安全和产品责任监管框架 ， 以及完善的安全标准体系 ， 在保障公民在单一市场上的福祉的同时 ， 鼓励创新和技术应用 。 随着人工智能、物联网和机器人技术正在改变许多产品和服务的特性 ， 此时 ， 建立更加明确清晰的安全和责任框架势在必行 ， 以期保护消费者和企业的合法权益 。
（二）人工智能、物联网和机器人技术的特征
人工智能、物联网和机器人技术具有连接性、自主性、复杂性和数据依赖性 。 它们几乎不需要人工管控就能执行任务 。 配备人工智能的系统还可以通过从经验中学习来改善自己的性能 。 此外 ， 随着投放市场的变化 ， 它们还更加具有开放性 。 同时 ， 由于涉及大量数据 ， 导致算法依赖（即随着算法技术的强大 ， 导致人类越来越依赖算法 ， 以算法的结果为指导标准）以及AI决策的不透明性 ， 使得对AI产品行为更难预测 ， 对造成损坏的潜在原因更难排查 。
（三）人工智能、物联网和机器人技术创造的机遇
人工智能、物联网和机器人技术为人类社会创造了许多机遇 。 例如可以增加用户对新兴技术的信任和社会认可 ， 改善产品、流程和商业模式以及帮助欧洲制造商提高生产效率 。 可以提高产品的可追溯性 ， 并通过提高产品的安全性从而使产品降低某些风险 。 除此之外 ， 人工智能还有望帮助人类发明创造 ， 并帮助解决一些世界重大挑战：包括治疗慢性疾病、预测疾病爆发、减少交通事故死亡率、应对气候变化或预测网络安全威胁等 。 此外 ， 新技术可以提高产品的可追溯性 ， 并通过提高产品的安全性从而使产品降低某些风险 。
二、人工智能、物联网和机器人技术对现有安全框架的影响及应对
欧盟委员会关于《建立以人为本的人工智能的信任》（Building Trust in Human-Centric Artificial Intelligence）的文件指出 ， AI系统应综合设计安全机制 ， 以确保每一步的安全性都经受得住检验 ， 确保所有相关人员的身心安全 。
当前的产品安全立法已经支持针对产品使用过程中产生的各种风险进行安全保护 。 可以通过适当的倡议 ， 对《产品责任指令》（Product Liability Directive）和国家责任制度进行调整 ， 采用更明确的、涵盖新兴数字技术带来的新风险的条款 ， 以提供更多的法律确定性 。
一是新兴数字技术的连接性挑战了传统安全概念 。 连接互通或失去连接都可能导致产品受到安全威胁进而影响用户安全 。 当前的欧盟产品安全法规（Union product safety legislation）中的产品安全性概念涵盖了针对产品面临各种风险的防护 ， 不仅包括机械、化学、电气风险 ， 还包括网络风险和与设备断开连接相关的风险 ， 此外还针对影响用户安全的网络威胁制定了强制性规定 ， 这方面的明确法律规定可以考虑纳入欧盟相关立法 ， 以便为用户提供明确的法律参考 。


推荐阅读


上一篇：疫情：疫情来袭，这些广东警察滞留家乡就地战“疫”

下一篇：[亲爱的数据]门外的野蛮人：入手10亿美元股份，推特公司CEO烦恼来了