江苏龙网

  1. 首页 > 资讯 > 科技 > >

「人工智能」何时才能以法之名，守住人工智能的底线

「人工智能」何时才能以法之名，守住人工智能的底线
图片

法律试图规范人工智能的愿景至今还没有成功的迹象 。 目前主导人工智能伦理原则和准则的仍然是技术界
丁玮
人工智能引发的伦理问题 ， 反映的是人类设计、制造、使用和对待人工智能的道德关怀 ， 所关注的是人工智能可能对人类带来的益处和伤害 。 总的挑战是 ， 如何在享受技术进步带来的好处的同时 ， 能够对其所带来的风险作出充分的反应 。
在人类技术发展史上 ， 平衡利益和风险的需要总是反复发生 ， 一再出现的 。 但是人工智能以一种全新的、潜在的、大规模的形式对人的工作、生活、教育、社会交往等各个方面产生全面影响 ， 甚至影响如何理解和重新定义人本身 。 同时 ， 人工智能也促使人们思考：是否应该运用这些新技术去追求提升、超越人类的自身条件?
为人工智能建立道德准则和边界
目前 ， 人工智能从用途上大致可分为两类：一类是通过预先设定的程序由自上而下的算法控制的机器人行为;另一类是自下而上的算法 ， 让机器人从过去的经验中学习并不断地修正它的算法 ， 达到自我学习和自我发展的目的 。
无人驾驶汽车、人脸识别、模拟人脑的神经网络模式等 ， 都是后一类人工智能的最新发展 。 与第一类人工智能需要依赖人类的决策相比 ， 第二类人工智能的发展不依赖于人类设置的程序、控制和干预 。 因而 ， 从理论上说 ， 此类人工智能的发展将难以被预测和控制 。
人工智能技术在很多领域的应用有益于人类社会 。 但过去两年间的实践明显地表明 ， 人工智能的发展可能会有许多意想不到的后果 ， 更不用说可能被用于反人类的目的 。
人工智能被滥用或者失去控制 ， 无疑与人工智能服务于人类的目标背道而驰 ， 不仅为人类未来命运带来不确定性 ， 也增大了安全隐忧 。 因此 ， 为人工智能建立道德准则和边界是引起业界和学界广为关注和讨论的热点问题 。
宣言和倡议中的人工智能伦理原则
近两年来 ， 全球发布了数量可观的关于人工智能伦理原则的宣言和倡议 。 其中 ， 普遍认可的原则包括透明度、平等(非歧视)、责任、安全、隐私等内容 。
因为人工智能技术如此深刻地对人类产生影响 ， 人工智能的研发人员应该负有道德义务向公众保持一定的透明度 。 尽管有人担心 ， 将人工智能释放给公众可能有害 ， 但美国电气和电子工程师协会(Institute of Electrical and Electronics Engineers ， 简称IEEE)致力于在多个层面为用户提供开放资源和透明度服务 。 2019年6月26日 ， 欧盟人工智能高水平专家组公布的《值得信任的人工智能政策和投资建议》 ， 认为欧盟国家人工智能研究竞争力来自于保持开放、透明度和创新 。
伴随着真实社会中的偏见和不平等 ， 算法偏见被算法操作者植入人工智能系统中 。 在人脸识别、声音识别等系统中 ， 随处可见算法偏见 。 随着机器学习技术扩展到医学和法律等关键领域 ， 机器学习中的偏见问题可能会变得更加严重 。 鉴于这种情况 ， 谷歌、IBM等大公司在自己的人工智能原则中将公平作为重要原则 ， 并开始在实践中搜寻和定位算法偏见 。
安全与责任是人工智能发展的核心原则 。 与之相关联的原则包括可靠性、控制性等 。 人工智能不能对人造成伤害 ， 这是基本的、也是终极的原则 。 虽然人类尚不能预见人工智能超出人类控制的情形 ， 但在理论上存在这样的可能性 。 因此 ， 人工智能的研发终究要以安全为本位 。
2019年5月 ， 《人工智能北京共识》(以下简称《北京共识》)发布15条原则 ， 从研发、使用、治理三方面规范人工智能 。
在研发方面 ， 《北京共识》提倡要有益于增进社会与生态的福祉 ， 服从人类的整体利益 ， 设计上要合乎伦理 ， 体现多样性与包容性 ， 尽可能地惠及更多人 ， 对潜在伦理风险与隐患负责 ， 提升技术水平控制风险 ， 共享人工智能发展成果 。 在使用方面 ， 提倡要善用和慎用 ， 避免误用和滥用 ， 以最大化人工智能技术带来的益处、最小化其风险 ， 确保利益相关者对其权益所受影响有充分的知情与同意 ， 并能够通过教育与培训适应人工智能发展带来的变化 。 在治理方面 ， 对人工智能部分替代人类工作保持包容和谨慎态度 ， 鼓励探索更能发挥人类优势和特点的新工作 ， 开展国际合作 ， 共享人工智能治理经验 。 人工智能的准则与治理措施应做到适应和适度 ， 并开展长远战略设计 ， 以确保未来人工智能始终保持沿着对社会有益的方向发展 。


推荐阅读


上一篇：疫情：梁建章点评2019年携程财报：疫情加速行业整合 对公司长期前景充满信心

下一篇：「」荣耀30S安兔兔跑分曝光，略逊麒麟980，2000元档性能最强？