西利亚没有答应、也没有拒绝,他甚至没关注赛文和陈陈将电子门设置全手动操作、并关闭可视模式重新变回厚墙,他只怔怔地看着被自在他们称为弗里的防卫机器人。
“防卫机器人的职责是保护人类、绝对不会做伤害人类的事情,它怎么会帮助你们绑架我?你们更改了它的程序?”
弗里本来还沉浸在帮助朋友的开心中,听到西利亚的质问立刻内疚起来,学着自在平时的样子弯下身抬起双臂想把头埋起来:“所有机器人都要保护人类,弗里不能伤害人类,弗里是坏机器人!”
自在赶忙安慰弗里:“弗里没有伤害人类啊,弗里只是帮我们开门!”
“弗里强迫人类开门,还看着人类被伤害没有救援,弗里违背了原则,弗里应该被惩罚!”
“但是,”自在忙说,“是我们要求弗里这么做的,否则我们就会被抓起来、我和自由会被杀掉!弗里帮助了朋友!”
“弗里帮助了朋友!”弗里直起身子,“弗里愿意帮助朋友!弗里可以做坏机器人、愿意接受惩罚,弗里要帮助朋友!”
西利亚震惊地看着自在和弗里的互动,弗里说话的声音跟普通的防卫机器人没有区别,但语气天真、内容里充满了情感--情感!机器人怎么会有情感!机器人怎么会有朋友,怎么会愿意为了朋友做出违背程序的事?
不,不是愿意,机器人怎么能做到不按照自己的程序行动!继宠物猫之后,连机器人都开始觉醒自我意识了吗?觉醒自我意识的机器人,还是机器人吗?
“你们究竟是怎么做到的?这个机器人究竟是怎么回事?”
这个防卫机器人就是维修机器人弗里,不过机器人毕竟和人类、猫猫不同,他们的身体并非不可替代,成业和赛文费了好大的功夫才把弗里的程序和存储代码复制进防卫机器人里,然后得到了一个防卫机器人弗里。自在曾想给防卫机器人弗里换一个名字,但他并不接受,大家也没有精力探讨“复制的机器人弗里还是不是弗里”这个问题,便随它去了。
在复制弗里的时候成业仔细研究过弗里的代码,发现他除了维修机器人都有的维修相关知识外、还存储了许多人类的小说故事,弗里对朋友的认识、以及对朋友甘愿付出一切的行为都是按照故事中的情节进行,人类的小说成为了弗里程序的一部分。
成业想起赛文说过的机器人集市,他可以肯定,机器人在学习。弗里也许是第一个成功学习了“朋友”的机器人,其他机器人会学习到什么?首脑又是否知道?首脑是否也在学习?成业攥住手腕上戴着的权限钥匙,也许攀云也意识到这一点,所以才决定帮自己一把。
“我知道,”成业对西利亚说,“当我第一次见到弗里的时候也很惊讶,机器人不应该这样。可事实就是事实,如果事实和我们的认知相悖、那就是我们的认知有错误。弗里就在这里,它在告诉我们,机器人并不是人类随意使用的工具,机器人并不绝对忠诚。”
西利亚汗毛直立,他凝视成业、期盼从他的脸上看到欺骗:“你、你知道自己在说什么么?”
成业笑了笑:“就像宠物猫,机器人也并不是人类想象中的样子。我以为你会很容易接受,毕竟你对宠物猫的改变接受良好。”
“这不一样!”西利亚忙说,“这怎么能一样呢!宠物猫是生物、拥有生命,有生命的东西本来就不可控制,只有神明才可以操控生命!如果生命可以随意摆弄,基因委的存在又有什么意义?可机器人,它们是人类制造的工具!你们是机器人的制造者,你们不明白吗?”
“说实话,明白或者不明白在现在也没什么意义,而且我不认为机器人的事是现在的重点。”休息够了的陈陈插嘴道,“这门不知道能坚持多久,我觉得我们还是赶快进入正题吧!”
“是的!”自在也同意陈陈的说法,他转向西利亚,“西利亚,首脑的存储数据藏在基因委的基地,对不对?”
西利亚怔忡片刻,眨了眨眼,笑着说:“那是什么,首脑不应该在编程大楼吗,怎么会在基因委呢!”
弗里的屏幕闪了闪:“西利亚呼吸急促心跳加快血压升高,存在说谎可能。”
西利亚无奈解释:“我被你们绑架了,当然会有这种反应,跟说不说谎没关系……”