冯娜花了五小时约谈全部机器人。
在这五个小时中,她一再重复同样的程序;看着同样的机器人来来去去;提出同样的问题甲、乙、丙、丁;听到同样的回答甲、乙、丙、丁;仔细保持着温和的表情、中性的语气、友善的气氛,并仔细藏好一台录音机。
约谈结束后,冯娜瞬间觉得精疲力尽。
大家正在等她,当她将录音卷“叮当”一声丢到高分子们桌面时,众人满怀期待地望着她。
冯娜摇了摇头。
“在她看来,机器人似乎通通一样,无法分辨……”接着又说:“你不可能指望用耳朵来分辨出来他们。”
一般而言,对机器人的言辞反应进行数学诠释,属于机器人分析学中较复杂的一支。
它需要一组训练有素的技术员,以及大型计算机的帮助。
这点大家都知道,而他正是这样说的。
当时已听完每一组回答,列出了字句偏差表,画出了反应间隔曲线。
黄秋成心中感到极度厌烦,只是未曾表露出来。
并未显现任何异常,冯娜。
字句和反应时间的变化,都在普通频率组的范围内。
我们需要更精密的方法,他们这里一定有电脑。
不—“我们不能用电脑,泄密的危险性太大。
或者如果我们……”樊俊以不耐烦的手势打断他的话。
拜托,这可不是你在实验室遇到的小问题。
假如我们无法借着某项肉眼看得出的粗浅差异,判断哪个才是修订方法,而且肯定绝对错不了,我们就要倒霉了。
那样的话,判断错误而让他逃掉的机会太大了。
在图表上指出一个微小的异常是绝对不够的。
我告诉你,假如这些是我唯一的线索,为了确保万无一失,我会把他们通通毁掉。
你和其他机器人谈过吗?
“谈过了,”冯娜特迅速回应,“他们没有任何不对劲。非要挑剔的话,就是他们过分友善。
他们乐意回答我的问题,对自己的知识表现出自傲——只有那两个新来的例外,他们还没有时间学习乙太物理。
我对此地某些专业知识的无知,引来他们相当善意的嘲笑。”他耸了耸肩,“我想这一点,就是此地技术人员对他们产生反感的原因之一。
那些机器人或许太喜欢卖弄他们的知识,让你感到自叹不如。
“你能不能试试几个机器人反应,看看他们的心智结构自出厂后有没有任何改变,或任何衰退?”
“我还没试,但我会的。”她举起一根细瘦的手指,冲着众人摇了摇。
我不知道你有什么戏剧化的想法,但他们本质上是无害的。”
“是吗?”
你可了解他们其中之一在说谎吗?在我刚约谈过的机器人当中,有一个故意对我说谎,虽然我下了最严格的命令,叫他们一定要讲实话。
这显示异常现象极其根深蒂固,而且极其可能……不知不觉咬牙切齿。
“根本没这回事。听好!机器人。”接到一个要他消失的命令。这个命令以最紧急的形式表述,下令者又是最有权力指挥他的人。
你找不到更紧急的形式或更高的指挥权,来撤销和取代这个命令。
自然,那机器人会全力以赴完成使命。
事实上,客观地讲,我佩服他的机智。
他竟然想到躲在一群类似的机器人当中,还有什么更好的消失之道吗?”
“很好,你会佩服他。我察觉出你觉得有趣,——既觉得有趣,又对状况过分无知。你是机器人学家吗,冯娜?那些机器人把他们心目中的优越感看得很重要,你自己刚刚这样说过。
他们在下意识里,觉得人类比他们低劣,再加上保护我们的第一法则不够完备,所以他们是不稳定的。
现在的情况是,一个年轻人命令一个机器人离去,命令他消失,而且用的都是憎嫌、轻蔑、厌恶的言辞。
姑且相信那机器人必须服从命令,但他在下意识中,却藏有怨恨的情绪。
他被骂了那么多恶毒的字眼,现在就更需要证明自己优于人类。
这个需要也许变得太重要,使得打折扣的第一法则不足以控制他。
“机器人究竟怎么会知道用在他身上的各式各样粗话,冯娜?他脑中印记的内容并不包括猥亵的言辞。”
“原始的印记并不是一切。”
“机器人拥有学习能力,你……你这个傻……”这时,樊俊知道她真的发脾气了。她很快继续说下去:“难道你没有想到,他能从口气中听出那些话绝非恭维?难道你没有想到,他以前听说过那些话,注意到它们是用在什么情况下?”
“好吧,那么,”樊俊叫道,“能否请你好心地告诉我,无论一个修订型机器人多么气愤,无论他多么丧心病狂地想证明自己的优越,他又有什么办法伤害人类?”
“如果我举个例子,你会保密吗?”
“会的。”
两人隔着桌子倾身凑向对方,两双愤怒的目光也勾在一起了。
机器人心理学家说:“假如机器人从某人上方抛下一个重物,只要他在这样做的时候,明白自己具有足够的力量和反应速度,能在重物砸到那人之前将它抓走,他就不会违反第一法则。
然而一旦重物离手,他就不再是主动的媒介,起作用的只剩下盲目的重力。
然后那机器人就能改变心意,他只要不作为,就能让重物砸下去。
修订后的第一法则允许这个行动。
“你把想象力发挥到了可怕的程度。”
这是我的专业有时必须做的。
樊俊,我们别吵了,开始工作吧。
你知道令那个机器人消失的刺激具有何种本质,你有他的原始心智结构记录。
我要你告诉我,我刚才说的那种事,我们的机器人做得到的可能性有多少。
不是那个特殊例子,请注意,而是整个这一类反应。
我要尽快得到答案。
“在此之前……”
“在此之前,我们必须试着做些直接测试第一法则反应的实验。”
巨日的烈焰被太空的一片漆黑所取代,可是就检验实验型机器人这项工作而言,外在环境的变化并没有多大意义。
无论背景如何,需要面对的都是莫测高深的大脑——根据那些天才工程师的说法,它应该会这样那样工作。
可惜实际上并非如此。
南佑和塔利来到空间基地还不到一周,便发现了这个事实。
而他们的身份是机器人安装师,这份假的身份也让南佑在空间基地畅通无阻。
南佑一字一顿地强调:“一星期前,我把你拼装起来。”