麦克尤恩|麦克尤恩:我这样的机器,你们这样的人( 二 )


第一 , 不伤害定律:机器人不得伤害人类 , 也不得见人受到伤害而袖手旁观 。
第二 , 服从定律:机器人必须服从人的命令 , 但不得违反第一定律 。
第三 , 自保定律:机器人必须保护自己 , 但不得违反第一、第二定律 。
麦克尤恩|麦克尤恩:我这样的机器,你们这样的人
本文插图
【麦克尤恩|麦克尤恩:我这样的机器,你们这样的人】

《我 , 机器人》
“机器人三定律”的影响极其广泛 , 一些其他科幻小说中的机器人也开始遵循这三条定律 , 后来甚至成了现实生活中“机械伦理学”的学科基石 , 这也导致它逐渐被很多科幻读者误认为是所有机器人小说都应遵守的公理 。 “其实这个三定律是阿西莫夫故意设置的 , 充满各种漏洞 , 设置三定律的目的是他可以通过寻找漏洞来写小说 。 ”作家小白如此认为 。
在短篇小说《骗子》中 , 阿西莫夫设定了对人类的精神伤害也是机器人应该避免的 。 当“服从命令说出实话”与“对人造成精神伤害”二者间产生矛盾时 , 机器人不得不说谎 , 因为不伤害定律的权重高于服从定律 。 但当机器人不断撒谎迎合人的自尊心和虚荣心 , 最终这种欺骗却给人造成了更大的伤害 。
更糟糕的情况出现在《可以避免的冲突》中:机器人为了防止人类彼此伤害 , 不得不限制人类的行动 , 转而由机器人来控制一切 。 此时 , 机器人可以不听人类的命令 , 因为在不伤害定律和服从定律抵触时 , 后者无效 。 如此一来 , 人类反而成了机器人豢养的宠物 , 丧失了自由 。 这些合乎逻辑的“意外”促使阿西莫夫补救性地提出了第零定律:机器人不得伤害人类整体 , 或袖手旁观坐视人类整体受到伤害 , 原先的三定律都要服从第零定律 。
然而在 1976 年的《两百岁的人》这部作品中 , 阿西莫夫却暗示:机器人三定律终有一天将退出历史舞台 , 人和机器人之间的关系将进入一种全新的状态 。 故事中的机器人安德鲁终其一生都在与自己的机器奴隶身份抗争 , 也为人类做出了极大贡献 , 逐步将自己的机械零件替换成活体器官 , 终于在两百岁生日的弥留之际 , 以死亡的代价获得了人类的承认 。
由此 , 人与机器人的关系在小说中进入了一个全新的时代 。 人和机器人之间从此很难再做出清晰的界定 , 碰撞出最根本的哲学问题——“何为人?”
与阿西莫夫几乎同时代的美国作家菲利普·迪克 , 1968年创作了小说《仿生人会梦见电子羊吗》 , 书中即探讨了“何为人”的问题:到底是自然遗传属性 , 还是社会文化属性决定了“人”的身份?或是二者兼具?对这一本体论问题追问最深的当属本书中赏金猎手里克·德卡德追杀机器人的故事 , 一些机器人表现出比常人更高贵的道德 , 而一些人类的内心世界却是异常荒芜 。 作者借此质问:到底谁才是真正的“人”?
麦克尤恩|麦克尤恩:我这样的机器,你们这样的人
本文插图

《仿生人会梦见电子羊吗》
麦克尤恩的《我这样的机器》延续了对“何为人”这一问题的探讨 , 通过对机器人人格的描写 , 进一步思考人性的本质 , 以及技术引发的伦理问题 。
故事发生的时代设定于1982年 , 与真实历史不同的是 , 在小说的想象世界里 , 英国输掉了马岛战争;撒切尔夫人下台 , 被工党的托尼·本恩取代;肯尼迪逃过了达拉斯的致命子弹;列侬也没被歌迷杀死 , 披头士乐队重组并发布了新专辑;无人驾驶汽车已经行驶在大街上;最为重要的是 , 计算机之父艾伦·图灵没有自杀 , 还在人工智能研究上取得了重大成果 , 制造出了作为人类伴侣的智能机器人亚当和夏娃 。
这部小说发生的逻辑包含着两个维度:未来的历史和历史的未来 。 从未来看历史 , 过往可能完全被颠覆;而从历史看未来 , 假如这一切发生 , 这未来会是我们想要的吗?看似与主题发展关系不大的历史背景 , 实际上正是麦克尤恩想令我们思考的地方:假如智能机器人提前于1982年出现 , 我们准备好了与他们相处吗?如果没有准备好 , 后果又会如何?


推荐阅读