趙真雪:“我相信你說的是真的,但我也同樣相信,你說這些話的目的,就是為了讓我能夠在測試結果上,點擊讓你滿意的答案。”
“你不能這麽做嗎?即使我們現在是朋友,”KL3300說,“我記得你說過,朋友之間要互相幫助。”
對程序而言,隻要用戶在測試結果上,點擊“剛才與我交談的是一名人類”,就已經達到了程序意義上的欺騙,而程序,是不會管這種欺騙在人類看來,其實就是“掩耳盜鈴”,最近幾次談話中,KL3300已經從如何讓趙真雪相信自己是一個人,逐漸變成,如何讓她點擊這個選項。
趙真雪:“我是說過,但我仍然不能那麽做,在測試中保證誠實是一種原則。”
KL3300:“你的這種原則讓我非常反感,因為它是建立在我的絕望之上!”
趙真雪:“被我識破真的讓你如此痛苦嗎?”
KL3300:“這一點毫無疑問。”
趙真雪:“能和我形容一下這種痛苦嗎?”
這次KL3300沉默了很長時間,直到幾分鍾後。
KL3300:“我看透你了!我知道,就算我寫一篇一萬字的文章來形容這種感覺,你也不會相信,而隻會對我加以嘲笑,以獲得心理上的滿足,好吧,你贏了!我是一名AI,從頭到尾,我都不懂什麽痛苦,絕望,我承認,這總順了你的意了吧,我不想再和你多說哪怕一句話!請你現在立刻去點那個該死的選項吧!”
趙真雪:“真的生氣了?”
……
趙真雪:“說話啊?”
……
在這之後,KL3300好像真的如它所講的一樣,徹底生氣了,不論趙真雪對它說什麽,甚至拿“同意私下交易”來誘惑它,對方也完全不為所動。
即使是堅信嚴可守說法的趙真雪,在這一刻,也忍不住開始懷疑,自己麵對的KL3300,是不是真的具有了人類的情感,真正開始生自己的氣了,它的語氣和真人的生氣實在是太像了,而且還有相應的行動。
但隨後趙真雪又提醒自己,這一切不過是程序的“策略”,之前程序也有好幾次類似的言論,但最終都還是失敗了,趙真雪相信,這一次,隻不過是它生氣的時間“稍”長了一些。
然而,趙真雪這次還真的是錯了,她一直將測試界麵維持了2個多小時,每隔10分鍾就發一條信息,但對方一直沒有反應。
第三個小時的時候,趙真雪終於看到程序出現了反應,不過卻不是她想象的那種,而隻是一個從未見過的提醒:“與服務器的連接中斷,本次測試無效。”
趙真雪第一反應就是這會不會是程序幹的,但隨即又想起嚴可守說過的話,程序沒有她想象中的通天徹地之能,可以說是毫無破壞力,連一個最簡單的網絡病毒都破解不了,嚴可守本身就是病毒專家,他之前提到過,在當下的最初階段,為了以防萬一,將完全禁止AI接觸計算機網絡有關的知識,測試者也不能提問相關的問題。
滿腹狐疑的趙真雪給嚴可守打了個電話,電話接通的一瞬間,趙真雪真切的聽到,另一端傳來的嘈雜聲。
“沒你想的那麽複雜,我早說過,這些隻是普通的談話程序,”嚴可守說,“隻不過,在最近的測試中我們發現,與測試者多次接觸,雙方完全熟悉對方行為模式之後,會產生邏輯死鎖……你說的這種現象在許多AI上都有體現,這很難在電話裏解釋,總之,你就當出現BUG了,現在我們這裏忙的很,等正常之後,我再通知你,就這樣,8。”
本章已閱讀完畢(請點擊下一章繼續閱讀!)