江苏龙网

  1. 首页 > 资讯 > 资讯 > >

如果AI是孙悟空，谁来念“紧箍咒”？

如果AI是孙悟空，谁来念“紧箍咒”？
文章图片
30秒快读
1
健康码、人脸识别通行 ， 是疫情期间迅速铺开的大数据、人工智能应用 。
2
在今年的世界人工智能大会上 ， 来自全球的科学家、学者都在探讨数据和隐私该如何治理 ， 之后 ， 对于人工智能的监管是否会落地？

在疫情期间 ， 我们出入小区、写字楼 ， 坐飞机、逛景区等场景下都需要出示健康码 ， 甚至去理发店洗头都需要登记身份证号和手机号 ， 我们需要大数据用于防疫 ， 但这些信息是否能被社区大妈、理发店小哥妥善保护 ， 这些信息是否有退出机制？


当我们需要刷脸进入公共厕所时 ， 当我们可以在几秒内把自己的脸换到明星身上时 ， 我们不禁发问 ， 谁来保护我的脸？谁来管管AI？

如果AI是孙悟空，谁来念“紧箍咒”？
文章图片

“先发展、再治理”是很多新科技发展的必经之路 ， 对人工智能来说 ， 其既推动了社会进步 ， 但也引发了人们对于隐私保护、就业替代、社会公平等各方面的担忧 。 正因此 ， 人工智能无法“先发展 ， 再治理” ， 必须“边发展 ， 边治理” ， 否则承担不起滥用人工智能技术造成的损失 。
全球各个国家都在探索AI治理的路径和方法 ， 而目前 ， 正处于全球人工智能治理体系成型的关键时期 。
01
无可解释的“黑箱”
技术是把双刃剑 ， 谁来为AI确定“底线”？
“人工智能的‘底线’就是以人为本 ， 这个方向不取得共识 ， 未来工作没法做 。 ”中国科学院院士何积丰曾这样表示 。
但是目前的情况是 ， AI所带来的安全风险也让人类措手不及 。
在何积丰看来 ， 目前 ， AI所带来的安全问题包括数据安全、算法安全 。 “数据安全中包含数据隐私问题、数据质量问题、数据保护问题 ， 算法安全则包括算法可解释性、算法可靠性等 。 ”在2020世界人工智能大会上 ， 何积丰说 ， 比如数据质量问题中还可以细分为训练数据质量、现场数据质量等 ， 一旦一个点出现问题 ， 就有可能带来AI系统被攻击者劫持、AI用于大规模高效率的网络攻击等问题 。
“AI技术是‘黑箱’ ， 具有不确定性 。 ”上海科学学所科技与社会研究室主任王迎春告诉《IT时报》采访人员 ， 由于AI算法内部的运作往往是不透明的 ， AI的黑箱问题和可解释性越来越受到关注 。
对此 ， 何积丰也表示 ， “黑箱算法”缺乏透明性和可解释性 ， 难以分析和验证 。 比如“算法黑箱”就有可能助长企业为用户提供同质不同价的产品和服务 。
人类不能将明天交付给无可解释的“黑箱” 。
【如果AI是孙悟空，谁来念“紧箍咒”？】02
取信于人 要有人的特质
近年来 ， “可信”被引入AI领域 ， 许多国家或组织都强调了“可信”的重要性 。 例如 ， 欧盟于去年4月推出的伦理准则就指出 ， “可信人工智能”有两个必要的组成部分 ， 一是尊重人类的基本权利、核心原则及价值观 ， 二是在技术上安全可靠 。
“可信” ， 也是何积丰一直在研究的 ， 在他看来 ， 可信人工智能应具备与人类智能类似的特质 。 比如鲁棒性 ， 在人工智能的训练过程中部分场景可能没有出现过 ， 因此对未知的情况应当具备一定的应对能力；还可以自我反省 ， 对自身性能或错误能够有所感知 。
如果AI是孙悟空，谁来念“紧箍咒”？


推荐阅读


上一篇： 成团|《青春有你2》还未正式成团出道，虞书欣已获更多资源被力捧！

下一篇： 让自己|三观很正的短句，生活感悟！