第六章 捉拿机器人
而确定哪个是修改过的内斯特的话,那么我们只好认倒霉,而那样,产生差错并让它溜掉的危险就太大了。图表中的一小点正常值是不够的。我告诉您,如果我只能依据这点东西的话,我宁可把它们全部毁掉,才能放心。您喂其它修改过的内斯特谈过了吗?”
“是的,谈过了,”勃格特颓然地靠在椅背上,“它们没有任何不正常。如果说有什么不正常的话,那就是它们超乎一般地友好。它们回答我的问题,并为自己的知识丰富而洋洋自得——除了新来的两个它们还没来得及学习辐射物理学。对这里的一些专业我所表现出来的无知,引起了它们善意的嘲笑。”他耸耸肩,接着说:“我想,这就是构成这里的部分技师对它们反感的一些主要原因。这些机器人太喜欢卖弄自己丰富的知识了。”
“您不能稍微试试着普兰南反应吗?看看它们的智力装置比出厂时有变化没有,有什么退化。”
“我还没有,但我是要试的,”他竖起一根纤细的手指,对着她摇摇。“您变得沉不住气了,苏珊。我不明白,您干嘛要过分渲染。它门实质上是无害的。”
“它们吗?”卡尔文生气了,“它们?难道您不知道它们当中的一个在撒谎?在我刚才讯问的这六十三个机器人当中,有一个就故意对我撒谎,尽管已下了最严格的命令要讲真话。所表现出来的这种反常现象简直太突出了,也太可怕了。”
皮特咬了咬呀。他说:“根本不是这样。内斯特十号接到‘躲到一边去’的命令。这个命令是由最有权命令它的人发出的,而且是以最紧急的方式发出来的。您既不能通过更高的紧急方式,也不能运用更高一级的指挥权来把这个命令抵销掉。自然,这个机器人将尽力坚持执行他的命令。实际上,客观的讲,我非常赞赏它的机灵。一个机器人藏到一群和自己想似的机器人当中,难道还有比这更好的躲到一边去的方法吗?”
“是啊,您会赞赏这点。我发现,您觉得这很逗乐,皮特。您觉得逗乐,却对事态缺乏了解到了可怕的程度。您是个机器人专家吗,皮特?那些机器人对它们视之为优越性的东西很重视的。您自己刚才也讲到这些。它们下意识地感受到人们比它们低一等,感到保护我们能对付它们的第一定律是有缺陷的。它们是不可靠的。而且我们的这个年轻人用厌恶、傲慢和鄙夷的腔调命令一个机器人离开他,躲到一边去。那个机器人必须服从命令。但是,它会有一种下意识的反感;对它来讲,证明它高人一筹,这比以前更重要了。尽管它遭到了种种可怕的咒骂。这样,第一定律所剩下的那部分就不够用了。这一点变得非常重要。”
“苏珊,在地球上或太阳系的任何地方,机器人怎么会懂得骂人话的含意呢?输入它大脑的东西里边没有污秽的语言呀!”
“原始的输入并不代表一切,”卡尔文粗暴地对他说,“机器人有学习的能力。你……你这个笨……”
勃格特明白她是真的难以克制自己了。
卡尔文急匆匆地继续说:“难道您不认为,它能分辨了的所用的语调和字眼并不是恭维话吗?您不认为,它以前听到有人用过,并且注意到是什么样的场合用过这种字眼吗?”
“好吧,那么,”勃格特嚷起来,“请您给我指出修改了的机器人能伤害人的一个途径,不管它是怎么样地被冒犯了,也不管它多么想证明自己的优越性。”
“如果我告诉您一种途径,您能不声张出去吗?”
“是的。”
他们隔着桌子互相靠拢,用悻悻的眼光相互盯着。
心理学家说:“如果一个修改了机器人想要使一个重物坠落到人身上,它也不会违犯第一定律,如果它这样做的时候,它认为凭自己的力量和反应速度能在重物质砸到人身上之前把重物抓住并拿开