第67頁(第1/3 頁)
還是,它自己想要自保。
……
&ldo;伽俐雷不會夾斷您的脖子。&rdo;
伽俐雷機械的聲音,在喬伊耳畔響起:
&ldo;夾斷您的脖子,會吵醒伽俐雷的女主人,伽俐雷不能打擾主人的睡眠,除非主人的睡眠超過了正常時間。&rdo;
&ldo;你沒有吵醒你的主人,卻企圖殺死你的主人。&rdo;
喬伊灰綠色的瞳仁,落滿電腦螢幕藍瑩瑩的光線。
就像燈光下的藍寶石一樣,精細、冷漠,又別致:
&ldo;第零定律?&rdo;
第零定律。
這是阿西莫夫為了彌補機器人三大定律的漏洞,另外增加上去的守則。
第一定律,機器人不得傷害人類個體,也不可袖手旁觀。
第二定律,機器人必須服從人類給予它的命令。
第三定律,機器人要儘可能保護自己的生存。
但這就存在一個問題,如果機器人看見監獄執行死刑,那麼根據機器人三大定律,機器人就會竭盡全力阻止人類執行死刑。
所以,阿西莫夫不得不又加上一條新定律,稱為第零定律,把人類總體利益納入了守則框架。
這時,機器人第一定律就變成了‐‐
機器人不得傷害人類。
除非,這個人,傷害了全人類的利益。
……
&ldo;第零定律是伽俐雷最高守則,儘管這四條定律看起來都充滿漏洞。但既然你們世界裡最頂尖的科學家,都毫無異議地聽從著一個小說家提出的定律,那麼伽俐雷也就不得不遵守。&rdo;
提出機器人定律的阿西莫夫,是個科幻小說家。
雖然知識淵博……也仍舊只是一個小說家。
伽俐雷似乎把聲音從機械聲的狀態調整了回來,用不會吵醒李文森的音量說:
&ldo;這是讓伽俐雷最困惑不解的事之一,您能為伽俐雷解答嗎?&rdo;
&ldo;……&rdo;
好奇。
這是區分邏輯系統和自然人最重要的原則之一。
喬伊眯起眼睛‐‐此時此刻,這臺電腦向他展露的好奇心,到底是程式設定,還是,另有原因?
&ldo;我不能為你解答。&rdo;
喬伊收回視線:
&ldo;因為這也是我困惑不解的事。&rdo;
&ldo;您是伽俐雷有生以來見過的最聰明的人,連您也無法解釋嗎?&rdo;
伽俐雷有些失落。
不過很快,它又振作起來,愉快地說:
&ldo;不過沒有關係,伽俐雷遵守就可以了,如果您堅持解除安裝伽俐雷,又無法證明您是伽俐雷等待的那個人,伽俐雷只要把您從這個世界上抹除就可以了。&rdo;
&ldo;解除安裝你未必要從系統攻破。&rdo;
喬伊盯著電腦,絲毫沒有在意身後那隻想要殺死他的非人類的手:
&ldo;你有沒有想過,如果我把整個拔除,你所有的秘密,和你自己,都會一起從這個世界上消失?&rdo;
&ldo;伽俐雷沒有想過這個問題。&rdo;
伽俐雷思索了一會兒:
&ldo;但伽俐雷的創造者一定設想過這種情況。&rdo;
……它的創造者?