落霞读书

第三篇 贝莱星 第八章 殖民者世界 29

[美]艾萨克·阿西莫夫2019年03月05日Ctrl+D 收藏本站

关灯 直达底部

丹吉的太空船再度进入永恒不变、无边无际的太空。

嘉蒂雅觉得似乎等得太久了。升空前,她一直在担心会有另一名监督员——带着另一台倍增器——突然发动奇袭。她试着压抑这股焦虑,但并不怎么成功。万一发生这种状况,自己必定瞬间毙命,不会有什么痛苦,但这又算哪门子安慰呢。结果原本应该是豪华享受的沐浴,被这股焦虑破坏殆尽,而接下来那顿美食,她也吃得食不知味。

直到真正进入太空,耳畔传来质子喷流的柔和嗡嗡声,她才能安心睡上一觉。奇怪的是,当意识逐渐蒙眬之际,她竟然觉得太空比她的故乡还要安全,而这次再度告别索拉利,那种如释重负的感觉要比上次更为强烈。

但索拉利已经不是她记忆中那个故乡了。它成了无人的世界,仅由徒具人类外表的监督员负责看守。相较于温文有礼的丹尼尔以及善解人意的吉斯卡,那些人形机器人根本不值一哂。

她终于入睡——于是,负责站岗的丹尼尔和吉斯卡又能彼此交谈了。

丹尼尔说:“吉斯卡好友,我相当肯定是你毁了那名监督员。”

“当时我显然毫无选择的余地,丹尼尔好友。我的感官完全用在寻找人类上,却始终一无所获,所以我能及时赶回来纯属偶然。而若非嘉蒂雅女士变得气急败坏,我也不会了解事情的严重性。正因为我在远方感应到了她的情绪,才会赶紧回到现场——险些来不及了。就这点而言,嘉蒂雅女士功不可没,至少她救了船长和你的性命。但即使来不及拯救你们,我相信我还是救得了这艘太空船。”他顿了顿,又补充一句,“万一我来迟一步,丹尼尔好友,我会觉得是天大的遗憾。”

丹尼尔以严肃而正式的口吻说:“谢谢你,吉斯卡好友。我很高兴知道监督员的人类外表并未节制你的行动,我的反应就慢了下来,而她对我的反应也是一样。”

“丹尼尔好友,我能体察她的思想型样,所以她的外表对我毫无意义。相较于人类的全面性思想型样,她的思想不但极其狭窄,而且结构完全不同,因此我根本不必将她想成人类。反之,她的非人特质十分明显,让我得以立刻行动。事实上,我是在采取行动之后,才意识到我已出手。”

“其实我已经想到了,吉斯卡好友,我只是希望跟你作个确认,以免产生任何误解。所以我能否假设,你杀了一个外表酷似人类的机器人之后,心中并未感到任何不适?”

“对,因为它是机器人。”

“可是我觉得,不论我多么清楚明白地了解她是机器人,如果是我亲手毁了她,我的自由正子流仍会受到若干阻碍。”

💑 落=霞=读=书- l u o x i a d u s h u . c o m -

“如果外表是唯一的依据,丹尼尔好友,那么人类的外表就是你无法攻克的铜墙铁壁。视觉要比推理更直接得多。我是因为能够观察她的内心结构,而且全副精神专注在那上面,才得以忽略她的外在结构。”

“万一我们被那名监督员摧毁,那么从她的内心结构,你能判断出她会有怎样的感受吗?”

“她接受了坚定无比的指令,根据她的电路所掌握的定义,你和船长都不是人类,对此她毫不怀疑。”

“但是嘉蒂雅女士也有可能被她杀害。”

“这点我们无法肯定,丹尼尔好友。”

“万一真的发生这种事,丹尼尔好友,她还能存活吗?你有没有办法判断?”

吉斯卡维持了好长一段时间的沉默。“我没有足够的时间仔细研究她的思想型样。假设她杀了嘉蒂雅女士,我还真说不准她会有什么反应。”

“如果我把自己假想成这名监督员。”丹尼尔的声音开始颤抖,而且变得有些低沉,“那么在我看来,我可能会为了拯救某个人类而杀害另一个人,只要我有理由相信拯救前者是确有必要的。然而,那会是个困难而且有破坏力的行动。另一方面,仅仅为了摧毁非人的敌人便不惜杀害人类,在我看来就简直难以想象了。”

“她只是口头这么威胁,并未真正付诸行动。”

“她可能付诸行动吗,吉斯卡好友?”

“我们并不清楚她究竟接受了什么指令,又怎能确定呢?”

“那些指令能够完全抵消第一法则吗?”

吉斯卡说:“我懂了,你之所以讨论这件事,唯一的目的就是要提出这个问题。我劝你别再追究下去了。”

丹尼尔以倔强的口吻说:“那我就改用假设句吧,吉斯卡好友。不能当作事实来讨论的问题,当然还是可以虚构一番。如果能用定义和条件把指令说得面面俱到,又如果能用强而有力的方式,把指令叙述得足够详尽,那么在此前提下,有没有可能让机器人由于某个远远比不上拯救人类的原因,而杀害另一个人类呢?”

吉斯卡硬邦邦地说:“我不知道,但我猜应该有此可能。”

“可是,如果你猜得没错,就意味着第一法则可能会在某些特殊条件下失效。既然如此,它就可以被修改成仿佛不存在,而其他两大法则当然也一样。因此这些法则不再是绝对的铁律,而是机器人的设计者能够随意定义的,就连第一法则也不例外。”

吉斯卡说:“够了,丹尼尔好友,别再讲下去了。”

丹尼尔却说:“还差一步,吉斯卡好友。换成以利亚伙伴,他一定会再迈出一步。”

“他是人类,所以能那么做。”

“我必须试试看。机器人学三大法则——尤其是第一法则——如果并非铁律,如果能被人类随意修改,那么在适当情况下,我们自己不是也能修……”

他住口了。

吉斯卡有气无力地说:“别再讲下去了。”

丹尼尔答道:“我到此为止。”他的声音也有点模糊不清。

沉默维持了好长一阵子。两人都费了很大的劲,才让自己的正子电路恢复正常。

丹尼尔终于再度开口:“我又想到一件事。那名监督员共有两点可怕之处,一是她脑中的指令,二是她的外表。不只我自己,恐怕连船长都被她的外表影响了。推而广之,她有可能欺骗和误导所有的人类,就像我当初无意间骗倒了一级船工尼斯那样。一开始的时候,他显然并未察觉我是机器人。”

“从这点能推论出什么呢,丹尼尔好友?”

“想当年,奥罗拉的机器人学研究院在取得法斯陀夫博士的设计之后,曾在阿玛狄洛博士领导下,制造出一批人形机器人。”

“这是众所皆知的事。”

“那些人形机器人到哪里去了?”

“计划失败了。”

丹尼尔说:“这也是众所皆知的事,可是你并未回答我的问题。那些人形机器人到哪里去了?”

“可以假设它们被销毁了。”

“这种假设并不一定正确。它们实际上真的被销毁了吗?”

“这是个合情合理的假设。不然该怎么处理失败的作品?”

“我们只知道那些人形机器人不见了,如何肯定它们是失败的作品?”

“既然它们被销毁了,难道还不够肯定吗?”

“我并未提到‘销毁’,吉斯卡好友,我们没有证据那么说,我们只知道它们不见了。”

“若非失败了,它们怎么可能从未亮相呢?”

“如果不是失败的作品,难道就没有理由不让它们亮相吗?”

“至少我想不到,丹尼尔好友。”

“再想想,吉斯卡好友。别忘了我们正在谈论的问题,我们认为或许光是由于足以乱真的外形,人形机器人就具有潜在的危险性。而在我们先前的讨论中,你我都觉得有人正在奥罗拉上筹划一项攻击银河殖民者的计划——当然是狠狠一击,绝不拖泥带水。而且根据我们的判断,攻击的重点一定是地球,目前我都没说错吧?”

“没错,丹尼尔好友。”

“那么,阿玛狄洛博士有没有可能就是这个计划的核心人物?过去两百年来,他对地球的厌恶早已人尽皆知。假如阿玛狄洛博士曾经制造一批人形机器人,后来它们却通通不见了,最有可能会被送到哪里去呢?记住一件事,如果索拉利的机器人学家有办法扭曲三大法则,奥罗拉的机器人学家同样能这么做。”

“你是在暗示,丹尼尔好友,那些人形机器人被送到地球去了?”

“完全正确。它们正在利用人类的外表欺骗地球人,以便为阿玛狄洛博士攻击地球的计划铺路。”

“你没有任何证据。”

“但这是可能的。你自己想想,这一步步的推理可有任何问题。”

“果真如此的话,我们就得赶到地球去。我们必须亲自赶去,设法阻止这场灾难。”

“对,应该这样。”

“但是嘉蒂雅女士不太可能会去地球,而她不去的话,我们也去不成。”

“如果你能影响船长,让他把太空船驶向地球,嘉蒂雅女士就不得不一起去了。”

吉斯卡说:“那么做一定会伤到他。他下定决心要回到他自己的世界贝莱星,如果我们要他冒出前往地球的念头,至少得先让他把贝莱星上的事处理完毕。”

“那时恐怕太迟了。”

“我也没办法,我绝不能伤害任何人类。”

“万一真的太迟了——吉斯卡好友,想想这意味着什么。”

“这种问题我没法想,我只知道绝不能伤害任何人类。”

“那就表示第一法则不够完善,我们必须……”

他讲不下去了。两个机器人双双陷入无助的沉默。

 

发表评论