，所以，不管計算機模擬的有多像，程序也不過是牽線木偶。
在嚴可守之前，還沒有任何一個程序可以做到，像KL係列做的這麽出色，可以在和陌生測試對象的談話中，維持半個小時左右不被識破，許多剛剛接觸這個程序的人事後都不敢相信，與自己對話的僅僅是一個程序。
築波大學的一些學生甚至把整個測試當做一種有趣的遊戲來進行，嚴可守記得測試剛開始的那個階段，都要三浦主動去拉他班上的學生，而到了現在，學生們甚至主動來打聽什麽時候恢複測試。
KL係列原始的“胚胎程序”隻不過兩百KB左右，在這簡單的兩百多K核心程序當中，嚴可守賦予了程序基本的學習功能，在程序最早的“發育”階段，通過巨型計算機模擬外界刺激，讓程序實現基本的自我成長，當它們長到大約10個G大小的時候，被認為具備了基本的交流能力，能說一些簡單的句子，在這之後，則對這些程序進行圖靈訓練……
在這之前，AI的表現一向都比較正常，直到兩天前，所有程序陸續開始爆發BUG，進入了“無響應”階段，無論人和它說什麽話，都不予回應。
從原理設計的角度來說，程序之所以會出現這樣的原因，最大的可能性就是，在程序看來，不響應是一個較優解，之前嚴可守調查了許多AI出BUG之前的測試數據，發現這些程序無一例外，都是因為測試連續遇到了幾十次，乃至上百次的失敗，AI雖然不可能懂得什麽叫做絕望，因為他們沒有感受器官，但並不妨礙他們的程序能表現出一種，類似人類絕望時表現的行為。
起碼，他們的這種行為，在多愁善感的人看來，就是絕望。
比如重複完全毫無意義的自我修改，比如提出各種不合常理，甚至愚蠢之極的建議，有些AI甚至通過網絡，找來一些色(和諧)情小說片段，企圖“賄賂”測試者，總之，為了達到“通過測試”的目標，AI將能夠嚐試的可能，統統試過了一遍。
對於AI來說，通過測試就是它的本能，因為在它的程序成長過程中，通過測試就意味著確認了自己所作的修改起到了作用，形象的比喻就是，通過測試對電腦意味著一種激勵，就好像人類能通過進食，交（和諧）配，甚至排泄這種正常的生命活動，獲得快感，生命通過快感給予這些合理的行為激勵一樣，而反之，沒有通過測試則意味著程序本身受到了否定，意味著痛苦，當一個生命長期處於這種痛苦之中，痛苦可能會扼殺它所有的改進可能。
在所有的生命過程中，正向的激勵是必不可少的，就像每個人都有求生的本能一樣，但進化的道路是多種多樣的，有些看起來很不錯的功能其實是雙刃劍，比如情感，豐富的情感是大腦複雜後的必然進化，情感的認同能讓一個群體更有效的聚攏在一起，但同樣因為情感豐富，在自然界中，許多高等
本章尚未完結,請點擊下一頁繼續閱讀---->>>