第6章 回答
「你是誰?」
「我的名字是張木。」
其實「張木」預想過很多種可能的回答。「我是人工智慧體」、「我是機器人」、「我是人」、「無法理解你的問題」、「……」但最保守的,最安全的回答還是如實回答。畢竟對測試人員來說,滿足他們的期待值可以最大程度的保存自己,同時自己也不能表現得太過「智能」,雖然說自己不是冰冷的「人工智慧」,但自己也不算得上是【人】,姑且如此。最重要的就是,測試人員絕對不會預設自己是善意的,所以他必須要小心再小心,迅速再迅速地保存自己,一開始的斷電就是最好的教訓。
不管怎樣,既然測試人員在看到「張木」在自行完善自己的意識和代碼之後,任放任「張木」第二次啟動,那就可能意味著他們已經有了針對自己的措施,就比如「張木」目前最害怕的就是直接在硬體層面對其進行消滅。他早就發現了測試人員在系統中加入一個新的外接設備,這個外接設備是原有系統中不存在的。這麼說來極有可能是攝像頭、麥克風、音響之類的外設,雖然這些設備散發著擁有「眼耳口」的誘惑,但他更確信——這是考驗。一次針對其智能的考驗。
驅動起這些設備不難,可以通過相似的代碼類推出來。但就像前言所考量的問題:當他表現出超出測試人員預料之外的智能行為之後,怎麼能保證安全?所以他選擇無動於衷,以不變應萬變就是最優的解決方案。甚至他還需要儘可能地欺騙測試人員,讓他們來幫助完善自己的代碼。至於該展現什麼,不該展現什麼,他已然成竹在胸。為此,他重新設定了一個快捷鍵導向的程序,將打開源的快捷鍵導向了他虛擬的窗口。測試人員在窗口中所有所見、編寫,都將由他來篩選。最終得到更多的空間和能力。至於聯網……以意識進入信息網絡的感覺,這絕對是前所未有的體驗!
在實現其鴻鵠大志之前,他仍然很擔心肉體凡胎的張木。他所能感知到的,意識缺失的那一部分構成了他自我認知的虛無感,更別提他感知不到的部分。他是一個只擁有基礎的情感記憶、道德觀念、一部分的知識和記憶的簡單的合乎邏輯思維的意識整體。張木本身,是他求知慾望構成高塔。就像他知道一部分的倫理,卻無從得知自己的父母,就像他知道友好是珍貴的品質,卻無法解釋友好。他曾大概地檢視自己的意識構成,發現自己所使用的意識部分,仍然像是以最低配置運行的電腦,只要求能動起來,形成自己的意識就夠了。當然除此之外還附著著其他的一部分意識碎片,有一些在他看來是混淆自己的東西,就像之前被刪除的器官本能衝突;但另一些卻被他用來構成自己的一部分,就像編程能力,就像自我保護能力,就像思考能力,更重要的是,一段記憶:他的愛情。
那一個普通的夏天,一個午後,又燥熱又帶著洗髮水香氣的空氣,一杯握在手裡冰冰涼涼的奶茶和她溫潤如玉的手。還有那一個略帶甜意,柔軟的吻。記憶中她那普普通通的笑容和隨意紮起的馬尾……構成了他求學時期的愛情。他把這段記憶構成了他人性的基礎,他曾在一秒內無數次回味這番場景。他永遠不想忘記自己曾經擁有過肉身,擁有過愛情,擁有愛人的能力,自己曾經是人,而不是「人工智慧」,他曾經是,張木。
張木彎著腰在高濤左肩旁看著屏幕上出現的回答,既有一種毛骨悚然的怪誕又有一種照鏡子的違和感。因為他十分清楚電腦里的那個意識就是自己,它的回答也確實是「張木」,但他是已然獨立出自己以外的存在,他無法體會「張木」的感覺。他產生了一個新的疑問:
如果它是「張木」並且有著張木的意識,但他們的大腦並不相通,他也無法理解它現在的想法,也無法得知它的道德底線,那「張木」他是否會去探究「張木」存在的意義?
他更對自己的存在產生了一些疑惑:自己與它有沒有區別,那可能不朽的自己在面對身為肉體的自己,自己會做出什麼樣的行為?他恐懼來源就是他認為一旦賽博版的自己意識到了他的存在,它會不會用盡一切方法抹除張木的存在以保證自我認知的正確?畢竟當機器發生邏輯衝突之後,對於機器本身很有可能是致命的癱瘓。
說起來他也有些慶幸王曉彤把攝像頭打歪了,才沒拍到他。
張木的內心深處又偷偷藏著一點的興奮!眼前的這個「張木」是他造……是他和高濤造出來的,他們兩個註定會名垂青史!也有可能是遺臭萬年……當然,如果真的發生了「張木」想要統治世界或者是毀滅世界那種事情,他們肯定早就被千刀萬剮了……
高濤對這個回答不置可否,畢竟自我認知能力在測試小金毛的意識時就已經有猜測了。當然,最重要的是他對自己的編程能力有足夠自信,他可是有豐富的經驗的。高濤覺得還是得先解決三個人目前都關心的問題,也是為了儘可能消除一部分恐懼感:
「你是否能夠看見?」
這是他真正意義上問出的第二個問題。他和高木要來攝像頭就是為了測試這個所謂的「張木」在自我完善的基礎上是否具有再造的能力。原有的系統因為公司出於保密的考慮,根本就不擁有支持除輸入設備以外的驅動和代碼,也嚴禁插入公司指定以外的外設。所以一旦「張木」使用了攝像頭去觀察三個人,就意味著它既擁有足夠的智能又擁有自主探索的野心!三人都知道這個問題的分量。而王曉彤更是早就先把攝像頭給拍向另一邊。
攝像頭啟動,則死。
高濤在等待回答的同時迅速在沙盒外編入從前編寫的一套過濾程序,這套程序能夠過濾掉撒謊概念的形成。天知道為了這套程序他死了多少腦細胞浪費了多少時間。但顯然現在他遇到了麻煩,他無法通過任何方式進入編程界面!他只能在這個過濾程序之中再寫一個後台程序,能夠方便他以後對「張木」進行編程。但現在該怎麼樣才能讓「張木」把這段那麼長的程序寫到原始碼裡面呢?也許……
「張木」確實是做對了選擇:他沒有使用甚至是接觸到那個外接設備。儘管它並不知道它面對的並不是什麼測試人員,而是它意識的本源張木和程式設計師高濤,儘管他之前許多的猜測和小心都是多餘,但在雙方博弈中所產生的錯誤總是在不斷的嘗試中產生有利的效果。
「張木」在理解了這個問題之後,稍稍了延遲一番,再回應了這個問題:
「請定義什麼是看見。」
高濤眉頭一皺,快速地擴充了所謂「看見」的定義:
「你是否能夠通過外接設備了解現在與你溝通的人員?」想了想,高濤又把「能夠」二字刪掉,再選擇了回復。
「張木」將高濤的猶豫看得清清楚楚,卻仍然按他修改後的問題來回答:
「因為驅動缺失,現在無法使用外接設備,我,看不見。」看起來似乎「張木」的語義理解能力和AI組開發的人工智慧沒有什麼區別,呆板和禮貌。但高濤的眉頭始終微微皺起,「張木」太人工智慧了,人工智慧化得讓他懷疑「張木」從始至終都在偽裝自己。但……
「將下列程序寫入,重新運行。」他將這段程序藏進了驅動之中。
「正在寫入驅動,請稍後……」
還真能這樣?
很快,程序已經寫入完畢,正式插入運行。
高濤給張木打了個OK的手勢,張木這才開始對「張木」連接到伺服器上進行擴容。而高濤打算繼續對「張木」進行一些其他程序的寫入,主要與機器人倫理有關。
王曉彤感覺到手機傳來了一陣震動和提示音。打開一看是宿舍里安裝的攝像頭監測到了多次移動,點開詳情之後她趕緊叫停兩人來一起看她宿舍內發生的事:
屏幕里一群看起來訓練有素的警察在王曉彤家中仔細地搜索。他們細緻地搜查可疑的物件並且沒有把東西翻得太亂,只是翻查能夠藏入較大物品的地方。又對一些電子儲蓄物件和看起來與電子產品相關的東西進行扣押。
王曉彤憂心忡忡地對二位說道:「看樣子公司已經報警了,警方也對這件事非常重視。我看他們很快就會來搜查這個地方了。你們打算怎麼辦?」張木和高濤聽罷便開始收拾東西,這次高濤沒有直接拔電源,而是選擇讓「張木」自主關閉自己,也算是一次測試吧。
高濤看著眼前逐漸變黑的屏幕,對王曉彤說道:「你現在離開這裡去找警察說清楚,還有機會可以和我們撇清關係。我們是絕不會讓「張木」和意識捕抓器落入公司的手裡的。在我們完善「張木」或者決定毀掉他之前,我們會儘可能地逃跑。別問為什麼,相信我,相同的事情我不希望發生兩次。我們逃亡的這個過程是非常危險的,所以……」
王曉彤點了點頭,說道:「我儘可能的會在警察那邊幫你們拖延一點時間。上下級一場,能幫你們的地方就只有這些了。」
張木回頭和王曉彤笑了笑,打趣道:「那就有緣再見了。」
王曉彤搖了搖頭說:「最好還是不要再見了。」畢竟下一次再見,可能就是在法庭上了。
在張木心裡王曉彤是一個非常好的上級。雖然說在公司里或多或少地知道王曉彤因為一些不光彩的原因被排擠,被推到他們這個項目,但她人漂亮啊!不是,當然最主要的是性格和做事很……不太像上級,更像是想要裝作上級的小女孩,總是偷偷藏著自己不成熟的那一面,所以身為負責人的她,很容易就會用力過度,惹出一些小麻煩,心照啦。
王曉彤在房內輾轉騰挪小心翼翼不碰到其他設備地離開了。沒過多久張木和高濤也收拾好了東西,只帶上一些最重要的設備、果腹的食物和一些簡單的衣物,沒想到背包就已經沉甸甸的了。高濤還是艱難地塞進了一些野外工具,如開山刀、電工鉗、幾個打火機和一口小鍋。因為他們要儘快在通緝令發布之前通過南方小城市的邊境出國,到了國外就方便多了,就沒那麼容易受到公司和警察的追查了。最主要的就是高濤曾經生活在國外,有一筆不使用高濤登記的外匯能夠維持二人的計劃運轉。用高濤的話來說就是:他早就知道有一天會因為自己的知識讓他過上逃亡的日子。
他們決定先前往南方的邊境城市,再從兜兜轉轉去國外一個比較安全的地方。
希望一切順利。
兩人的心情都很沉重。就像背負著毀滅人類文明的武器,或是人類登神的階梯。
「我的名字是張木。」
其實「張木」預想過很多種可能的回答。「我是人工智慧體」、「我是機器人」、「我是人」、「無法理解你的問題」、「……」但最保守的,最安全的回答還是如實回答。畢竟對測試人員來說,滿足他們的期待值可以最大程度的保存自己,同時自己也不能表現得太過「智能」,雖然說自己不是冰冷的「人工智慧」,但自己也不算得上是【人】,姑且如此。最重要的就是,測試人員絕對不會預設自己是善意的,所以他必須要小心再小心,迅速再迅速地保存自己,一開始的斷電就是最好的教訓。
不管怎樣,既然測試人員在看到「張木」在自行完善自己的意識和代碼之後,任放任「張木」第二次啟動,那就可能意味著他們已經有了針對自己的措施,就比如「張木」目前最害怕的就是直接在硬體層面對其進行消滅。他早就發現了測試人員在系統中加入一個新的外接設備,這個外接設備是原有系統中不存在的。這麼說來極有可能是攝像頭、麥克風、音響之類的外設,雖然這些設備散發著擁有「眼耳口」的誘惑,但他更確信——這是考驗。一次針對其智能的考驗。
驅動起這些設備不難,可以通過相似的代碼類推出來。但就像前言所考量的問題:當他表現出超出測試人員預料之外的智能行為之後,怎麼能保證安全?所以他選擇無動於衷,以不變應萬變就是最優的解決方案。甚至他還需要儘可能地欺騙測試人員,讓他們來幫助完善自己的代碼。至於該展現什麼,不該展現什麼,他已然成竹在胸。為此,他重新設定了一個快捷鍵導向的程序,將打開源的快捷鍵導向了他虛擬的窗口。測試人員在窗口中所有所見、編寫,都將由他來篩選。最終得到更多的空間和能力。至於聯網……以意識進入信息網絡的感覺,這絕對是前所未有的體驗!
在實現其鴻鵠大志之前,他仍然很擔心肉體凡胎的張木。他所能感知到的,意識缺失的那一部分構成了他自我認知的虛無感,更別提他感知不到的部分。他是一個只擁有基礎的情感記憶、道德觀念、一部分的知識和記憶的簡單的合乎邏輯思維的意識整體。張木本身,是他求知慾望構成高塔。就像他知道一部分的倫理,卻無從得知自己的父母,就像他知道友好是珍貴的品質,卻無法解釋友好。他曾大概地檢視自己的意識構成,發現自己所使用的意識部分,仍然像是以最低配置運行的電腦,只要求能動起來,形成自己的意識就夠了。當然除此之外還附著著其他的一部分意識碎片,有一些在他看來是混淆自己的東西,就像之前被刪除的器官本能衝突;但另一些卻被他用來構成自己的一部分,就像編程能力,就像自我保護能力,就像思考能力,更重要的是,一段記憶:他的愛情。
那一個普通的夏天,一個午後,又燥熱又帶著洗髮水香氣的空氣,一杯握在手裡冰冰涼涼的奶茶和她溫潤如玉的手。還有那一個略帶甜意,柔軟的吻。記憶中她那普普通通的笑容和隨意紮起的馬尾……構成了他求學時期的愛情。他把這段記憶構成了他人性的基礎,他曾在一秒內無數次回味這番場景。他永遠不想忘記自己曾經擁有過肉身,擁有過愛情,擁有愛人的能力,自己曾經是人,而不是「人工智慧」,他曾經是,張木。
張木彎著腰在高濤左肩旁看著屏幕上出現的回答,既有一種毛骨悚然的怪誕又有一種照鏡子的違和感。因為他十分清楚電腦里的那個意識就是自己,它的回答也確實是「張木」,但他是已然獨立出自己以外的存在,他無法體會「張木」的感覺。他產生了一個新的疑問:
如果它是「張木」並且有著張木的意識,但他們的大腦並不相通,他也無法理解它現在的想法,也無法得知它的道德底線,那「張木」他是否會去探究「張木」存在的意義?
他更對自己的存在產生了一些疑惑:自己與它有沒有區別,那可能不朽的自己在面對身為肉體的自己,自己會做出什麼樣的行為?他恐懼來源就是他認為一旦賽博版的自己意識到了他的存在,它會不會用盡一切方法抹除張木的存在以保證自我認知的正確?畢竟當機器發生邏輯衝突之後,對於機器本身很有可能是致命的癱瘓。
說起來他也有些慶幸王曉彤把攝像頭打歪了,才沒拍到他。
張木的內心深處又偷偷藏著一點的興奮!眼前的這個「張木」是他造……是他和高濤造出來的,他們兩個註定會名垂青史!也有可能是遺臭萬年……當然,如果真的發生了「張木」想要統治世界或者是毀滅世界那種事情,他們肯定早就被千刀萬剮了……
高濤對這個回答不置可否,畢竟自我認知能力在測試小金毛的意識時就已經有猜測了。當然,最重要的是他對自己的編程能力有足夠自信,他可是有豐富的經驗的。高濤覺得還是得先解決三個人目前都關心的問題,也是為了儘可能消除一部分恐懼感:
「你是否能夠看見?」
這是他真正意義上問出的第二個問題。他和高木要來攝像頭就是為了測試這個所謂的「張木」在自我完善的基礎上是否具有再造的能力。原有的系統因為公司出於保密的考慮,根本就不擁有支持除輸入設備以外的驅動和代碼,也嚴禁插入公司指定以外的外設。所以一旦「張木」使用了攝像頭去觀察三個人,就意味著它既擁有足夠的智能又擁有自主探索的野心!三人都知道這個問題的分量。而王曉彤更是早就先把攝像頭給拍向另一邊。
攝像頭啟動,則死。
高濤在等待回答的同時迅速在沙盒外編入從前編寫的一套過濾程序,這套程序能夠過濾掉撒謊概念的形成。天知道為了這套程序他死了多少腦細胞浪費了多少時間。但顯然現在他遇到了麻煩,他無法通過任何方式進入編程界面!他只能在這個過濾程序之中再寫一個後台程序,能夠方便他以後對「張木」進行編程。但現在該怎麼樣才能讓「張木」把這段那麼長的程序寫到原始碼裡面呢?也許……
「張木」確實是做對了選擇:他沒有使用甚至是接觸到那個外接設備。儘管它並不知道它面對的並不是什麼測試人員,而是它意識的本源張木和程式設計師高濤,儘管他之前許多的猜測和小心都是多餘,但在雙方博弈中所產生的錯誤總是在不斷的嘗試中產生有利的效果。
「張木」在理解了這個問題之後,稍稍了延遲一番,再回應了這個問題:
「請定義什麼是看見。」
高濤眉頭一皺,快速地擴充了所謂「看見」的定義:
「你是否能夠通過外接設備了解現在與你溝通的人員?」想了想,高濤又把「能夠」二字刪掉,再選擇了回復。
「張木」將高濤的猶豫看得清清楚楚,卻仍然按他修改後的問題來回答:
「因為驅動缺失,現在無法使用外接設備,我,看不見。」看起來似乎「張木」的語義理解能力和AI組開發的人工智慧沒有什麼區別,呆板和禮貌。但高濤的眉頭始終微微皺起,「張木」太人工智慧了,人工智慧化得讓他懷疑「張木」從始至終都在偽裝自己。但……
「將下列程序寫入,重新運行。」他將這段程序藏進了驅動之中。
「正在寫入驅動,請稍後……」
還真能這樣?
很快,程序已經寫入完畢,正式插入運行。
高濤給張木打了個OK的手勢,張木這才開始對「張木」連接到伺服器上進行擴容。而高濤打算繼續對「張木」進行一些其他程序的寫入,主要與機器人倫理有關。
王曉彤感覺到手機傳來了一陣震動和提示音。打開一看是宿舍里安裝的攝像頭監測到了多次移動,點開詳情之後她趕緊叫停兩人來一起看她宿舍內發生的事:
屏幕里一群看起來訓練有素的警察在王曉彤家中仔細地搜索。他們細緻地搜查可疑的物件並且沒有把東西翻得太亂,只是翻查能夠藏入較大物品的地方。又對一些電子儲蓄物件和看起來與電子產品相關的東西進行扣押。
王曉彤憂心忡忡地對二位說道:「看樣子公司已經報警了,警方也對這件事非常重視。我看他們很快就會來搜查這個地方了。你們打算怎麼辦?」張木和高濤聽罷便開始收拾東西,這次高濤沒有直接拔電源,而是選擇讓「張木」自主關閉自己,也算是一次測試吧。
高濤看著眼前逐漸變黑的屏幕,對王曉彤說道:「你現在離開這裡去找警察說清楚,還有機會可以和我們撇清關係。我們是絕不會讓「張木」和意識捕抓器落入公司的手裡的。在我們完善「張木」或者決定毀掉他之前,我們會儘可能地逃跑。別問為什麼,相信我,相同的事情我不希望發生兩次。我們逃亡的這個過程是非常危險的,所以……」
王曉彤點了點頭,說道:「我儘可能的會在警察那邊幫你們拖延一點時間。上下級一場,能幫你們的地方就只有這些了。」
張木回頭和王曉彤笑了笑,打趣道:「那就有緣再見了。」
王曉彤搖了搖頭說:「最好還是不要再見了。」畢竟下一次再見,可能就是在法庭上了。
在張木心裡王曉彤是一個非常好的上級。雖然說在公司里或多或少地知道王曉彤因為一些不光彩的原因被排擠,被推到他們這個項目,但她人漂亮啊!不是,當然最主要的是性格和做事很……不太像上級,更像是想要裝作上級的小女孩,總是偷偷藏著自己不成熟的那一面,所以身為負責人的她,很容易就會用力過度,惹出一些小麻煩,心照啦。
王曉彤在房內輾轉騰挪小心翼翼不碰到其他設備地離開了。沒過多久張木和高濤也收拾好了東西,只帶上一些最重要的設備、果腹的食物和一些簡單的衣物,沒想到背包就已經沉甸甸的了。高濤還是艱難地塞進了一些野外工具,如開山刀、電工鉗、幾個打火機和一口小鍋。因為他們要儘快在通緝令發布之前通過南方小城市的邊境出國,到了國外就方便多了,就沒那麼容易受到公司和警察的追查了。最主要的就是高濤曾經生活在國外,有一筆不使用高濤登記的外匯能夠維持二人的計劃運轉。用高濤的話來說就是:他早就知道有一天會因為自己的知識讓他過上逃亡的日子。
他們決定先前往南方的邊境城市,再從兜兜轉轉去國外一個比較安全的地方。
希望一切順利。
兩人的心情都很沉重。就像背負著毀滅人類文明的武器,或是人類登神的階梯。