第十四章 动 机(第2/5页)
“怎么样?”
“且说刚抵达索拉利时,我是搭乘地面车前往指定给我的属地。为了避免让我接触到开放空间,那辆地面车在行进中完全封闭。身为地球人……”
“这点我知道,”李比不耐烦地说,“但这又和第一法则有什么关系?”
“驾驶那辆车的机器人并不知道这一点。我要它打开天窗,它立刻遵命了。根据第二法则,它必须服从命令。我当然觉得很不舒服,好在天窗及时关闭,否则我就要崩溃了。能不能说那机器人伤害了我?”
“它是奉命行事。”李比回嘴道。
“我来引述一下第二法则:除非违背第一法则,机器人必须服从人类的命令。所以你看,我的命令应该无效才对。”
“荒谬。机器人并不知道……”
坐在椅子上的贝莱倾身向前。“啊!这就对了。让我们把最正确的第一法则说一遍吧:机器人不得在知情的情况下伤害人类,或在知情的情况下因不作为而使人类受到伤害。”
“这个道理大家都懂。”
“我认为一般人并不懂。否则,人人都会了解机器人能进行谋杀。”
李比脸色苍白。“你有精神病!你是疯子!”
贝莱凝视着自己的指尖。“我想,凡是不会对人类造成伤害的任务,机器人都会执行?”
“必须有人下令。”李比说。
“是的,当然必须有人下令。而如果有另一个机器人,奉命执行另一件任务,只要这件任务不会对人类造成伤害,我想它也是会执行的?”
“没错。”
“有没有可能,这两件任务本身对人类都毫无危害,加在一起却构成了一桩谋杀案?”
“什么?”李比的表情变得很阴沉。
“我想请教你对这个问题的专业意见。”贝莱说,“我来说一个假设性个案吧。假设某人对机器人说:‘把这种液体放一点到某处的一壶牛奶里。这种液体无毒无害,我只是想知道它对牛奶有何影响。一旦我确定了,便会把那壶牛奶倒掉。等你做完这项工作,把它忘得一干二净。’”
李比依旧沉着脸,什么也没说。
贝莱继续说道:“如果我叫机器人把那个神秘液体加到牛奶里,然后拿给某人喝,第一法则会促使它提出质疑:‘这个液体到底是什么?会不会对人类有害?’即使我向机器人保证这么做绝对安全,第一法则还是会让它存疑,因而拒绝端出那壶牛奶。然而,如果我告诉它最后会把牛奶倒掉,第一法则就不会介入了。请问机器人会不会服从命令?”
李比开始面露凶光。
贝莱又说:“然而,第二个机器人并不知道那壶牛奶被动了手脚。在完全不知情的情况下,它把牛奶倒出一杯给某人喝,而那人就被毒死了。”
李比大叫一声:“不会的!”
“为何不会?两件任务本身都是无害的,只有加在一起才会构成谋杀。难道你否认有这种可能性吗?”
“凶手应该是那个下令的人。”李比吼道。
“如果你追根究底,这么说当然没错。不过,那两个机器人却是直接的凶手,是行凶的工具。”
“没有人会下这种命令。”
“有这种人,而且他真做了。谋杀葛鲁尔局长一定就是用这种方法进行的。我想,你应该听说过这件事了。”
“在索拉利,”李比喃喃道,“每件事都会传到你耳朵里。”
“那你就该知道,葛鲁尔是在吃晚餐时遭毒害的,而且是当着两个人的面,除了我自己,还有我的搭档,也就是来自奥罗拉的奥利瓦先生。你能想出把毒药送进他嘴里的第二种方法吗?当时,他的属地上没有别人。身为索拉利人,你一定明白这个事实。”
“我又不是警探,我对犯罪手法一窍不通。”
“我已经告诉你一种了。我想知道它是否可能;我想知道两个不知情的机器人能否合作完成一件谋杀案。你是专家,李比博士,有这个可能吗?”
不堪其扰的李比终于答道:“可能。”声音低到贝莱几乎都听不见。
贝莱说:“很好。第一法则的讨论到此为止。”
李比瞪着贝莱,只见他那下垂的眼皮慢慢眨了一两下。他原本紧握的双手这时已分了开,不过手指依旧弯曲,仿佛那两只手仍各握着一只隐形的手掌。最后,他终于把双手摆到膝盖上,直到这个时候,十根指头才总算放松了。