第十四章 动机 · 01
李比慢慢张大嘴巴。贝莱起初以为他要咆哮一番,后来却相当惊讶地发现,那是他生平所见最不成功的一个笑容。
李比开口道:“别这么说,千万别这么说。”
“为什么?”
“因为那是有害的言论,会削弱人类对机器人的信心,任何这类言行都是有害的。不信任机器人是人类的通病!”
他仿佛是在教训小孩子;仿佛是将一串怒吼刻意轻声细语地说出来;仿佛他虽然很想祭出死刑,仍先试着劝诱对方浪子回头。
+落-霞+读-书 👗-lu o xi a d u sh u . com- ·
李比问道:“你对机器人学的历史清楚吗?”
“还可以。”
“身为地球人,你应当清楚。你可知道,机器人刚出现的时候,引发了很强的科学怪人情结?人类对机器人充满疑虑,非但不信任它们,而且心怀恐惧。于是,机器人学几乎成了一门地下科学。机器人之所以个个内建三大法则,最初就是为了克服这种疑虑,但即便如此,地球上还是不可能发展出机器人化的社会。当初会有人离开地球,移民到银河其他角落,原因之一就是为了善加利用机器人,好让人类永远脱离贫困劳苦。可是,大家对机器人仍有潜在的疑虑,一有什么风吹草动,这种心理便会窜出来作怪。”
“这种不信任机器人的内心挣扎,你自己也经历过吗?”贝莱问。
“很多次。”李比绷着脸说。
“莫非这就是你们这些机器人学家愿意稍微曲解事实,以便尽可能消除疑虑的原因?”
“我们没有曲解任何事!”
“比方说,三大法则没遭到曲解吗?”
“没有!”
“我能提出明确的证据。除非你有办法说服我,否则只要有机会,我就会向全银河证明这件事。”
“你疯了。我向你保证,无论你自以为掌握了什么证据,都一定靠不住。”
“我们是不是该讨论一下?”
“如果不太花时间的话。”
“面对面讨论?”
李比那张瘦脸扭成了一团。“不行!”
“再见了,李比博士。会有人愿意听我说的。”
“慢着。银河啊,老兄,慢着!”
“见面?”
机器人学家将双手举到下巴附近,晃来晃去了一阵子。只见一只拇指慢慢钻进他嘴巴里,就再也没有出来了。他的眼睛则茫然地望着贝莱。
贝莱心想:他是不是让自己退回到五岁之前,以便心安理得地和我相见?
“见面?”他又说。
不料李比缓缓摇了摇头。“我做不到,做不到。”他含着拇指,口齿不清地呻吟,“你爱怎么做就怎么做吧。”
在贝莱的瞪视下,李比转过身去面对着墙壁。这个直挺挺的索拉利人终于弯腰了,还将脸孔埋到了颤抖的双手中。
贝莱说:“好吧,我同意,就用显像吧。”
李比背对着他说:“失陪一会儿,我马上回来。”
贝莱利用这段空当去了一趟卫浴间,然后,他从镜子里端详那张刚刚洗过的脸。自己是否逐渐受到索拉利和索拉利人的影响?他心中没有答案。
他叹了一口气,拍下按键召来一个机器人。然后,他没转头便说:“除了我正在用的这一台,育场里还有其他的显像仪吗?”
“另外还有三个机座,主人。”
“那你就告诉克萝丽莎・康特罗——告诉你的女主人,我要继续使用这台,请她别打扰我。用完了,我自会跟她说。”
“是的,主人。”
贝莱回到原来那个房间,显像仪依旧对准李比刚才现身之处。现在那里仍是一片空洞,他索性坐下来等待。
不多久李比便出现了,随着他的脚步,房间仿佛又开始轻微晃动。显然,镜头毫无延迟地从锁定房中央转为锁定他这个人。贝莱想起显像控制的复杂程度,不禁感到有点肃然起敬。
李比几乎恢复正常了,这相当明显。他的头发梳得服服帖帖,衣服也换过了。他现在穿着一套宽松的服装,闪闪发光的质料十分吸引目光。他从墙上拉出一张椅子坐了下来。
“你对第一法则到底有什么独到的看法?”他一本正经地说。
“我们会遭窃听吗?”
“不会,我做了预防。”
贝莱点了点头。“我先来引述一下第一法则。”
“我看没必要。”
“我知道,但还是让我引述一下吧:机器人不得伤害人类,或因不作为而使人类受到伤害。”
“怎么样?”
“且说刚抵达索拉利时,我是搭乘地面车前往指定给我的属地。为了避免让我接触到开放空间,那辆地面车在行进中完全封闭。身为地球人……”
“这点我知道,”李比不耐烦地说,“但这又和第一法则有什么关系?”
“驾驶那辆车的机器人并不知道这一点。我要它打开天窗,它立刻遵命了。根据第二法则,它必须服从命令。我当然觉得很不舒服,好在天窗及时关闭,否则我就要崩溃了。能不能说那机器人伤害了我?”
“它是奉命行事。”李比回嘴道。
“我来引述一下第二法则:除非违背第一法则,机器人必须服从人类的命令。所以你看,我的命令应该无效才对。”
“荒谬。机器人并不知道……”
坐在椅子上的贝莱倾身向前。“啊!这就对了。让我们把最正确的第一法则说一遍吧:机器人不得在知情的情况下伤害人类,或在知情的情况下因不作为而使人类受到伤害。”
“这个道理大家都懂。”
“我认为一般人并不懂。否则,人人都会了解机器人能进行谋杀。”
李比脸色苍白。“你有精神病!你是疯子!”
贝莱凝视着自己的指尖。“我想,凡是不会对人类造成伤害的任务,机器人都会执行?”
“必须有人下令。”李比说。
“是的,当然必须有人下令。而如果有另一个机器人,奉命执行另一件任务,只要这件任务不会对人类造成伤害,我想它也是会执行的?”
“没错。”
“有没有可能,这两件任务本身对人类都毫无危害,加在一起却构成了一桩谋杀案?”
“什么?”李比的表情变得很阴沉。
“我想请教你对这个问题的专业意见。”贝莱说,“我来说一个假设性个案吧。假设某人对机器人说:‘把这种液体放一点到某处的一壶牛奶里。这种液体无毒无害,我只是想知道它对牛奶有何影响。一旦我确定了,便会把那壶牛奶倒掉。等你做完这项工作,把它忘得一干二净。’”
李比依旧沉着脸,什么也没说。
贝莱继续说道:“如果我叫机器人把那个神秘液体加到牛奶里,然后拿给某人喝,第一法则会促使它提出质疑:‘这个液体到底是什么?会不会对人类有害?’即使我向机器人保证这么做绝对安全,第一法则还是会让它存疑,因而拒绝端出那壶牛奶。然而,如果我告诉它最后会把牛奶倒掉,第一法则就不会介入了。请问机器人会不会服从命令?”
李比开始面露凶光。
贝莱又说:“然而,第二个机器人并不知道那壶牛奶被动了手脚。在完全不知情的情况下,它把牛奶倒出一杯给某人喝,而那人就被毒死了。”
李比大叫一声:“不会的!”
“为何不会?两件任务本身都是无害的,只有加在一起才会构成谋杀。难道你否认有这种可能性吗?”
“凶手应该是那个下令的人。”李比吼道。
“如果你追根究底,这么说当然没错。不过,那两个机器人却是直接的凶手,是行凶的工具。”
“没有人会下这种命令。”
“有这种人,而且他真做了。谋杀葛鲁尔局长一定就是用这种方法进行的。我想,你应该听说过这件事了。”
“在索拉利,”李比喃喃道,“每件事都会传到你耳朵里。”
“那你就该知道,葛鲁尔是在吃晚餐时遭毒害的,而且是当着两个人的面,除了我自己,还有我的搭档,也就是来自奥罗拉的奥利瓦先生。你能想出把毒药送进他嘴里的第二种方法吗?当时,他的属地上没有别人。身为索拉利人,你一定明白这个事实。”
“我又不是警探,我对犯罪手法一窍不通。”