江苏龙网

  1. 首页 > 资讯 > 科技 > >

|学习80亿个偏好模型才能了解地球上每个人的偏好 | 赠书( 二 )


世界上不止一个人存在这一事实还产生了另一个重要的后果：这意味着 ， 对每个人而言他都有其他人需要关心 。 这意味着满足一个人的偏好会对其他人产生影响 ， 这取决于个人对他人幸福的偏好 。
什么是“忠诚”的人工智能？
对于机器应该如何处理多人存在的问题 ， 让我们从一个非常简单的建议开始讲起：机器应该忽略有多人存在这一事实 。 也就是说 ， 如果哈里特拥有机器人罗比 ， 那么机器人罗比应该只关注哈里特的偏好 。 这种忠诚的人工智能绕过了权衡的问题 ， 但会导致下面这种问题：
机器人 罗比：你丈夫打电话提醒你今晚一起吃晚餐 。
哈里特：等等！什么？什么晚餐？
机器人 罗比：庆祝你们的 20 周年纪念日 ，7 点钟 。
哈里特：我没时间！我 7 点半会见秘书长！这是怎么回事？
机器人 罗比：我确实提醒过你 ， 但你没有听我的建议……
哈里特：好吧 ， 对不起……但是我现在该怎么办？我不能跟秘书长说我太忙了！
机器人 罗 比：别担心 。 我会安排她的飞机晚点 ， 让飞机出点电脑故障 。
哈里特：真的吗？你还能这么做？！
机器人 罗比：秘书长向你致以深深的歉意 ， 并很高兴明天与你共进午餐 。
此处 ， 机器人罗比找到了一个巧妙的方法来解决哈里特的问题 ， 但它的行为对其他人产生了负面影响 。 如果哈里特是一个恪守道德规范且无私的人 ， 那么旨在满足哈里特偏好的机器人罗比永远也不会想到执行这样一个可疑的计划 。 但是 ， 如果哈里特对其他人的偏好毫不在意 ， 又会如何？那样的话 ， 机器人罗比不会介意让飞机晚点 。 它会不会花时间从网上银行账户里偷钱 ， 来填满冷漠的哈里特的钱包 ， 甚至做出更糟糕的事情？
显然 ， 忠诚机器的行为需要受到规则和禁例的约束 ， 就像人类的行为受到法律和社会规范的约束一样 。
有些人提出严格责任原则作为解决方案：哈里特（或机器人罗比的制造商 ， 这取决于你希望让谁承担责任）对机器人罗比的一切行为负有经济上和法律上的责任 ， 就像在美国大多数州 ， 如果狗在公园咬了小孩 ， 狗的主人要承担责任一样 。 这个想法听起来很有希望 ， 因为这样罗比就有动机避免做任何会给哈里特带来麻烦的事情 。
不幸的是 ， 严格责任原则并不管用：它只是确保了机器人罗比在为了哈里特的利益而造成飞机延误和偷钱时的行为不会被发现 。 这是漏洞原则在实践中的又一个例子 。 如果机器人罗比忠于一个寡廉鲜耻的哈里特 ， 那么试图用规则来约束它的行为就可能会失败 。
即使我们能以某种方式阻止公然的犯罪 ， 为冷漠的哈里特工作的忠诚的机器人罗比也会表现出其他令人不快的行为 。 如果它在超市买东西 ， 它会尽可能在收银台插队 。 如果它在购物回家途中遇到一个路人心脏病发作 ， 它会选择无视 ， 继续回家 ， 仅仅为了让哈里特的冰激凌不融化 。 总之 ， 它会找到无数种牺牲他人利益的方法来造福哈里特 ， 这些方法是完全合法的 ， 但在大规模实施时会变得不可容忍 。 各国会发现自己每天都要通过数百项新法律 ， 以弥补机器将在现有法律中找到的所有漏洞 。 人类往往不会利用这些漏洞 ， 或是因为他们对潜在的道德原则有普遍的理解 ， 或是因为他们缺乏发现漏洞所需要的创造力 。
因此 ， 打造忠诚的人工智能的想法很难成立 ， 除非这个想法被拓展到除了考虑主人的偏好之外 ， 还考虑其他人的偏好 。
效益主义的人工智能
我们之所以有道德哲学 ， 是因为地球上不止一个人生活 。 与理解人工智能系统应该如何设计最相关的方法通常被称为结果主义 ， 即应该根据预期结果来评判选择 。 另外两种主要的方法是道义论伦理学和美德伦理学 ， 非常粗略地讲 ， 这两种伦理学分别关注行为和个人的道德品质 ， 而与选择的后果无关 。
没有任何证据表明机器有自我意识 ， 因此我认为 ， 如果其结果非常不符合人性 ， 那么建造道德高尚或按照道德准则选择行动的机器就毫无意义 。 换言之 ， 我们制造机器是为了带来结果 ， 我们应该更喜欢制造能带来我们喜欢的结果的机器 。 这并不是说道德准则和美德无关紧要 ， 只是对效益主义者而言 ， 他们是根据结果和那些结果的更实际的成就来判断正当性的 。


推荐阅读


上一篇：|从“泛娱乐”到“新文创”，优质IP如何实现长期稳定增值发展

下一篇：科学|史上第二次，中俄“卫星”可能相撞，位置：南极上空！