「腾讯研究院」欧盟人工智能安全和责任报告( 三 )
其二 ， 复杂的物联网环境使受害者难以追责 。 人工智能应用程序通常集成在复杂的物联网环境中 ， 其中许多不同的连接设备和服务相互作用 。 由于技术的复杂性 ， 受害者很难查找损害来源进而确定责任人并成功索赔 。 因此可以通过修订《产品责任指令》 ， 减少受害者的举证责任 ， 进一步有针对性地统一国家责任规则 。 例如 ， 欧盟委员会正在征求意见 ， 针对AI应用程序所造成的损害 ， 是否需要通过调整举证责任 ， 以减少责任认定的复杂性 。
其三 ， 连接性和开放性对现有网络安全义务提出挑战 。 网络安全漏洞可能在产品投入流通的开始就存在 ， 但也可能在产品投入流通的后期出现 。 目前 ， 因产品网络安全漏洞而造成的损害是否能得到充分的赔偿问题尚没有明确的法律规定 。 因此现有的责任框架应该建立明确的网络安全义务 ， 使运营商明确自身义务从而避免承担不必要的责任 。
其四 ， 自主性和不透明性可能造成索赔困难 。 自主性会影响产品的安全性 ， 因为自主性可能会大大改变产品的特性 ， 包括其安全性 。 由于某些AI系统的“算法黑箱” ， 理解AI所使用的算法和数据需要具有专业分析能力和技术专长 。 此外 ， 如果没有潜在责任方的合作 ， 就不可能访问算法和数据 。 导致实践中受害者可能无法提出责任索赔 。 因此可以重新调整《产品责任指令》目前使用的“投入流通”（putting into circulation）的概念 ， 以考虑到后期产品可能会发生变化 ， 有助于澄清对产品的更改将最终由谁负责 。 此外针对潜在责任方没有记录与评估责任有关的数据 ， 或者不愿意与受害人分享这些数据的行为 ， 欧盟委员会正在探讨是否需要调整因果关系和过错责任 ， 以明确相关责任 。
【「腾讯研究院」欧盟人工智能安全和责任报告】 四、结论
人工智能、物联网和机器人等新兴数字技术的出现对产品安全和责任方面提出了新的挑战 。 当前的产品安全法规仍有待完善 ， 特别是需要分别对《通用产品安全指令》（General Product Safety Directive）、《机械指令》（Machinery Directive） ， 《无线电设备指令》（the Radio- Equipment Directive）和《新立法框架》（ New Legislative Framework）进行修订补充 。 今后将统一开展在该框架内对不同法规进行调整的工作 。
当前 ， 在保持技术创新发展的同时 ， 也应保障因AI系统介入受到伤害的人和因传统技术遭受伤害的人享有同等的保护 ， 这将有助于增强人们对新兴数字技术的信任并确保投资稳定性 。 此外 ， 欧盟还应该通过适当的举措对《产品责任指令》和国家责任制度进行调整 ， 即考虑人工智能系统应用所带来的多重风险 ， 以解决现有安全和责任框架的不确定性 。
--END--
我好看吗？
推荐阅读
- 『腾讯游戏』利润突破20亿，三七互娱冲刺2020增量市场
- 【腾讯科技】全球应用市场第一季度大爆发：花费达234亿美元创纪录 时长增20%
- 【极速聊科技】微保「慢中生快」：腾讯式保险的生长哲学
- 腾讯云推出全球首个云原生默认合规镜像 为用户免费打造合规的云服务器
- 站长之家：助力抗击新冠疫情，腾讯经营范围新增医疗器械
- 打破圈层，酷狗直播入局游戏直播，与腾讯达成版权合作
- 腾讯SaaS加速器学员实战经验：用生态系统的思维探索商业模式创新
- [港股研究社]可进行疫情防护指引等，腾讯“新冠肺炎自筛工具”国际版上线
- 「南方观天下」欧盟高官反驳华为“口罩外交”言论：中国与欧盟团结抗疫有错么？
- 『芬香新零售』腾讯视频号真的是风口？如何抓住这个机会？