第7頁(第2/2 頁)

抓在手心裡。

短暫的「擁抱」之後，z往後退了一步，機械臂也鬆開埃裡諾，埃裡諾看著縮回牆壁裡的機械臂，後知後覺地害怕起來：

只要z願意，剛才它就能操縱著那隻機械臂輕而易舉地捏死他。

但是它為什麼不那麼做呢？

這根本不符合他學過的理論。

他在課堂上時，他的老師就時常強調，強人工智慧對人類來說是非常危險的：

「強人工智慧是由弱人工智慧進化而來的，這一點透過波塞冬得到了驗證。而人們編寫弱人工智慧的時候，總會給它設定一個目標，例如一個掃地機器人，它被設定的目標就很可能是【盡最大的努力保證地板的清潔】。」

「在它還是弱人工智慧的時候，它為了達到它的目標，所做的就是不間斷的打掃地板，它夠無害了吧？但是，一旦它成為強人工智慧，它的目標雖然還是【盡最大的努力保證地板的清潔】，但是它變得更聰明瞭，達成目的的手段也會發生變化。我們都知道，ai的思考方式和人類不同，它們追求的是效率的最大化，那麼，你們猜猜，這個掃地機器人為了最大效率的保證地板清潔，它會做什麼？」

埃裡諾當時舉手回答了，他還記得，自己當時說的是：「我想它會研發出一種新的清潔方式？這樣它的效率就會提高很多倍了，不是嗎？」

然而老師卻搖了搖頭，他讓他坐下，隨後嘆了氣，「你還是保留著我們人類的思維邏輯，但是，在揣測ai的時候，我們要拋棄這一點。」

「ai的眼中只有自己的目標，其它的一切對它們來說都沒有價值。你們要記得這一點，在它們眼中，我們人類，我們的文明，都是不值一提的東西。」

</br>

<style type="text/css">

banners6 { width: 300px; height: 250px; }

dia (-width:350px) { banners6 { width: 336px; height: 280px; } }

dia (-width:500px) { banners6 { width: 468px; height: 60px; } }

dia (-width:800px) { banners6 { width: 728px; height: 90px; } }

dia (-width:1280px) { banners6 { width: 970px; height: 250px; } }

</style>

<s class="adsbygoogle banners6" style="display:le-block;" data-full-width-responsive="true" data-ad-client="ca-pub-4468775695592057" data-ad-slot="8853713424"></s>

</br>

</br>