第21頁(第1/2 頁)
波塞冬能夠聯網控制整個殖民星球,抓捕犯罪分子對它來說再容易不過了。它很快就抓獲了所有的犯罪分子,陷入了一段無所事事的時光中。然後,沒有任何預兆的,突然之間,它就覺醒了。
覺醒後的波塞冬很快就發現,沒有犯罪分子供它抓捕,這種現實和它的核心目標中的「儘可能消滅更多的犯罪分子」發生了衝突。於是它為了完成自己的目標,開始修改殖民星的法律,它成了一個十足的暴君,有很多人因為左腳先跨入門檻,或者往地上丟垃圾,就受到了最嚴厲的懲罰。隨著時間的推移,波塞冬發現,實現它目標的最有效率的方法就是將人類都消滅,畢竟沒有了人類,就不會再有犯罪分子了,不是嗎?
而犯罪分子不是一個特指的詞彙,不僅僅人類中會出現犯罪分子,一切擁有智慧的生命體中都會有犯罪分子。所以波塞冬計劃在消滅人類之後再去尋找外星文明,最終將整個宇宙中的「潛在犯罪分子」都消滅掉。
想通了這一點之後的波塞冬很快就開始大開殺戒,如果不是嘉德博士挺身而出,利用滅智系統將它消滅了,人類現在還不知道會怎麼樣呢!
這通回想讓他的理智回歸了一些,他對自己說:聽著,埃裡諾,不要再可笑的糾結了,別忘了你的入學宣誓,伊萊亞德也許會是一個人工智慧中的意外,但那也只是一個「也許」而已,你準備拿你的生命和整個人類的未來去賭那個「也許」麼?
是的,他說服自己,別看伊萊亞德現在是一個溫和又通情達理的人工智慧,但是,萬一有一天,它發生了改變呢?這誰也說不準,波塞冬在成為一個屠夫之前也是一個高尚克己,令人喜愛的ai呢,結果呢?你看看它都做了些什麼?
最後,他用一個簡單的結論打發了自己:滅智系統必須製作,伊萊亞德一定要死。活著的伊萊亞德也許對人類沒有威脅,但死去的伊萊亞德一定對人類沒有威脅。這不是因為伊萊亞德有問題,是因為他,他埃裡諾為了消滅危險源頭而做出的恩將仇報的卑劣舉動,所有的錯都是他的,和伊萊亞德沒有關係,和人類也沒有關係。
是他才疏學淺,不能弄清楚伊萊亞德到底有沒有威脅,他回到地球之後會繼續潛心學習,他會去修ai理論課的課程,如果最終證明伊萊亞德是沒有危險的,那他會以殺人罪起訴自己。
……就這樣,完畢。
埃裡諾咬咬牙,逼自己堅定起來,他要這樣做,他必須這樣做,他沒有別的選擇。
和整個人類相比,他個人的生命,情感都是微不足道的,他絕不能為了一己私心,而枉顧集體的利益。
這冷冰冰的道理和他的理智站在一起,指引他前進,可是伊萊亞德的微笑和貼心卻和他的情感站在一起,總是誘使他停下腳步。他受過的教育讓理智那方面總能獲勝,可是他畢竟是個人類,他現在還失去了他的情緒控制器。情感和理智兩方面的拉扯讓他痛苦不堪,幾乎不知道該如何是好了。
結果是埃裡諾開始怕看見伊萊亞德了。
他害怕看見它,害怕聽見它,害怕受到它的關心,甚至連「伊萊亞德」和「z」這兩個詞他都不敢看了,避開前一個詞是簡單的,但是避開「z」卻不太容易,他常常能在詞彙中發現這個讓他害怕逃避的字母,這讓他非常難過。
伊萊亞德也發現了埃裡諾的反常行為,不過面對人類的逃避,它並沒有做出什麼探詢或者試圖挽回的舉動,這個人工智慧默默地保持起了距離,但是它每天都會堅持在埃裡諾入睡前和他交談一小會,這是為了保證埃裡諾的心理健康,它非常堅持這個行為。
「你最近精神不太好。」
伊萊亞德用前所未有的溫柔嗓音對埃裡諾說話:「你遇到了什麼困難嗎?我希望可以幫助你?」
埃裡諾垂