薇利亚坐在窗边,窗台上放着一杯咖啡。远方山林中雾气弥漫,景色若隐若现。
电子门滑向一侧,路加走进来收拾茶几上的餐具,过程中尽量不发出任何声音。但当他捧着托盘准备离开时,薇利亚还是转头看了看他。
“路加。”
他不得不停下脚步。
“我想出去透透气。”薇利亚说。
路加转过身,动作有些僵硬。
两人无声对视,僵持了足足两分钟之久。最终,路加道:“根据阿列克谢的命令,你不能离开这间实验工厂。”
薇利亚点点头,仍然看着他。
“但是,”路加补充道,“我可以打开通向屋顶的那扇门,让你去外面呼吸新鲜空气,放松一下。”
——
一刻钟后,两人来到工厂的房顶。平台上的积雪尚无人踏足,薇利亚踩上去,靴底响起清脆的“咯吱”声,她一直走到对面的栏杆旁,用手套拂去雪尘,趴在上面看着远方。
路加跟着她走过来,站在她身后。
薇利亚默默深吸了几口冰冷新鲜的空气,这些天她实在是憋坏了。如果把她关在这里四十八年,她或许会疯掉。也不知机器人会不会感到憋闷,又或者他从出生起就住在这里,早已经习惯了。
她调出终端窗口看了眼时间。今天她起得不算早,平常这个时候,瓦西里应该来送餐了。以防万一,她多问了一句:“瓦西里还没来吗?”
“今天他来得很早。”路加答道:“你起床之前他就走了。”
“是吗?”薇利亚有点惊讶。
他是故意的。或许昨天阿列克谢回去之后对他说了什么。
她花了些时间适应户外的环境,稍微缓过劲儿来之后,回头道:“路加,我有个问题。”
路加闻言踏前一步。
“你应该早就知道阿列克谢的计划吧?”
他迟疑片刻,点了点头。
“为什么不阻止他呢?”薇利亚问,“你应该也知道,他暗中收集军械,不只是为了自卫,更是为了杀人。‘机器人不得伤害人类,或因不作为而使人类受到伤害’——根据内置的法则,你本该阻止他的。”
“薇利亚,”他答道:“你认为人造人就不算是人类吗?”
她没说话。
“我知道两者的概念不同,实质也不同。人类是经由交/媾、妊娠等自然过程诞生的,即便目前的技术可以将这些过程都转移到体外,但在该过程中,自然人的精子、卵子必不可少——每个人类都有其父母。”他说,“可人造人不一样,他们是在基因工程和人造细胞的基础上诞生的,是被人类刻意设计、制造出来的。
“人造人的DNA与人类的确有着极其微小但不可忽视的差异。然而,我看不出两者在生理结构和精神意识上的明显差别。”
“机器人的思维径路中会被植入某种评判标准,用来判断一个个体是人类或是非人。但是这种标准不够细致准确,以至于我们无法仅凭观察就断定某个个体是人造人,而非人类。”他继续道,“至于从其他途径获知的信息,无法代替由观察得出的结论。因此,尽管我知道阿列克谢的身份是人造人,我却仍旧不得不把他看作人类。”
薇利亚:“我理解。”
假如机器人仅凭从外部获知的信息贸然判断个体的身份,就很可能搞错从而造成误伤。因此,无法辨别人类和人造人成了机器人群体的共同特点。
“我在工厂工作了四十八年。”他说,“现在是第四十九年了。”
“在这里,我目睹人类以各种方式伤害人造人,却不能加以阻止。他们下达的强制命令压制了我想要保护人造人的冲动,但是,矛盾在我的思维径路中不断积累,总有一天,我会因为负担太重而崩溃。”他说,“阿瑟·兰彻斯特预见到了这种情况,因此,他在离开之前,为我引入了新的概念。”
薇利亚神色一滞,隐约猜到了他要说的内容。
路加:“来自艾萨克·阿西莫夫的第零法则——机器人不得伤害人类整体,或因不作为而使人类整体受到伤害。”(注)
半晌,薇利亚问:“他是怎么做到的?我是说……怎么为你引入这个法则?他又不是机器人学家。”
“他只是告诉了我而已。”
“于是你就理解了?”
“是的。”
薇利亚很诧异:“你果然不一般。”
“基于第零法则,我有了现在的选择和判断。”路加说,“人类对人造人无休止、无下限的伤害和利用,对于人类整体的未来毫无益处。以前我也曾试图阻止发生在这里的诸多暴行,但是,一方面,人类可以不断用强制命令限制我的行动,另一方面,我无法走出工厂,因此我什么都改变不了。”
“我不断受挫,却没有停摆。得益于第零法则,我不会因为目睹个体受到伤害而轻易崩溃,我知道还有‘人类整体’这一存在。”他说,“我早就清楚阿列克谢的计划,但我不打算阻止或告发他。我相信他的行动会对人类整体的未来造成正面的,而非负面的影响。”
“包括他杀害驻军这件事?”
“是的。”
“这只是你的推测吧?”
“是的。”
薇利亚沉默片刻,说:“你超出我对机器人的认知了。”
路加默不作声。
她转身靠在栏杆上,继续看风景。良久,路加问道:“薇利亚,你怎么看待阿列克谢的行为?”
她有些困惑地回头:“为什么问这个?”
路加卡壳了几秒才说:“我想知道你的想法。”
薇利亚不得不思考了一会儿。
“我没资格评判他。”最后她说,“但如果是我,可能会做得更过分。”