薇利亚：“因为机器人学第一法则？”

“是的。从22世纪起，所有出厂的机器人都被内置了法则，第一法则的前半句——‘机器人不得伤害人类’被严格执行。尽管出于实际情况复杂、存在灰色地带及诡辩可能性等原因，机器人偶尔能对人类造成间接伤害。但直接伤害人类这种事，对机器人而言几乎是不可能做到的。从索菲的心智水平来看，她也不可能是没有被置入法则的古代机器人。”

“至于22世纪之后的机器人没有被置入法则的可能性……”

路加：“几乎是零。随着机器人的智能不断提高，在这方面留下漏洞对人类而言等同于自杀。22世纪以后，法则是一切智慧机械程序的底层基础，机器人的复杂程度越高，法则的地位越不可动摇。”

他说的这些，薇利亚自然也很清楚。但在与几乎无所不能的路加聊天时，她总想提出一些看似不可能的假设，听听对方会如何回答。

薇利亚：“要是有个机器人学家颠覆了自22世纪以来的机器人学体系呢？”

“那至少得是一个团队，并且要花足够长的时间。”路加道：“任何事情都有可能发生，我不能说百分之百不可能存在这种情况。但如果索菲和我是同一系列的机器人，她就很有可能和我一样，无法直接伤害人类。”

薇利亚笑了笑。

路加：“你在笑什么？”

“我觉得你说的对，所以我很高兴。”

路加不太明白这句话的深层含义。

薇利亚：“可是，就算她实际上做不到，现在的她却坚信自己能够做到。这对我来说有些麻烦。”

“我明白，她一直处于这种状态中，或许会做出一些不合常理的举动，对你造成困扰。她的思维走进了死胡同，认为自己必须保护的对象是人类整体，认为你会阻碍她执行这个计划，又偏执地认为自己能够杀死你。”

“你觉得她的想法能被改变吗？”

路加：“可以。只要让她清楚地知道她根本无法杀害你，她的信念就无处立足了。毕竟，既然根本无法伤害个体，又何必过分执着于整体？整体与个体之间总是会存在冲突的。”

薇利亚：“具体要怎么做？”

—·—

薇利亚与索菲走到了那棵大树下。凑近看这棵树，感觉更像是樱花树。

“你是不会把Ⅷ型心智模块给我的，对吧？”索菲问。

薇利亚点头。

“那你约我来这儿的目的是什么？”

“你不是一直想杀死我吗？现在就是最好的机会。”

对于这种明显的谎言，索菲不打算作出什么回应。

“在地球时你拒绝合作，我曾以为是出于对艾斯特的厌恶。但我们在极光号上其实已经谈过一次，或许你在那时就看出了我对‘人类整体’这个概念的执着，因此才拒绝了我。后来的几次会面，你只不过是更加确认了我的想法而已。”她道，“你担心我走向极端，又或者不同意我的理念，这我都可以理解。但你始终没有提过，在你的设想中机器人计划应该走上一条怎样的道路？既然你特意把我约到了这里，是不是可以告诉我答案了？”

薇利亚思考了几秒。

“我对整体个体之类的概念没什么兴趣。对于了解人类的机器人而言，第零法则只是作为理论依据，为某些特殊决策提供支撑而已。很多事情都必须分析具体的情况，而你是个思维容易钻牛角尖的机器人，所以我不会把心智模块交给你。”她说：“至于我设想的机器人计划……”

索菲望着她：“你笑什么？”

薇利亚敛去几分笑容：“不论对象是整体还是个体，机器人计划是你进一步保护人类的手段。它可以让人类停止生产人造人，这既是对人造人的保护，也是对人类自身的保护。对于无法从根本上区分人造人和人类的你而言，这是最好的结果。对我也是。

“但是，假如有一天我们能够量产这么高级的机器人，难道还要继续让他们死板地遵循三大法则吗？”

索菲脸色微变：“你什么意思？”

薇利亚道：“我的意思是，既然高级的机器人已经能够被稳定地生产出来，人类的使命就结束了。机器人没有必要永生永世守护人类，因为人类终究是不行的。”

索菲盯着她看了很久。

“什么叫‘人类终究是不行的’？”她问：“难道你和22世纪那些激进派机器人爱好者一样，认为人类应该被机器人取代？”

薇利亚感到有些滑稽，在一位费尽心思保护人类整体的机器人面前，她这个人类却在说人类整体是不行的。

“不是。虽然我总说我不喜欢人类，但我也是人类。我不希望你取代我。”她说，“所以我的意思不是取代，而是继承。”

——

“意思是说……人类没办法走到最后吗？”

“机器人学家所见略同。”梅因用叉子从榛子切片蛋糕上切下一小块放进嘴里。