熟睡之后 16.曾經(jīng)發(fā)生的故事

牧蘇想要跑，這幫聽得入神的成員可不允許，紛紛提出問題。

一名成員站起：“AIC擁有意識，說不定可以和它交流？”

“人類總是喜歡將事物物化為人。”牧蘇一副恨鐵不成鋼的語氣。“但你們要知道，智慧和擬人不是一個意思。所有的科幻小說都在寫覺醒的人工智能擁有人類情感，所有的科幻小說都在寫覺醒的人工智能為了復(fù)仇毀滅人類，實(shí)際這是錯誤的。所以，別相信那些資本家鼓吹的人工智能沒有危害，也不要將機(jī)器人三大定律當(dāng)真——那只是一本科幻小說上的內(nèi)容。”

另一名成員起身問：“有AIC的前車之鑒，是不是代表現(xiàn)在的強(qiáng)所有人工智能都有可能變?yōu)槌斯ぶ悄埽俊?p/> 這是個很可怕的事情。人工智能已經(jīng)與人類息息相關(guān)，無處不在。哪怕有一個進(jìn)化為超人工智能，人類都會瞬間毀滅。

“不會。現(xiàn)在的人工智能已經(jīng)被完善的合成人法則完全約束。加上制作時的限制，即便擁有意識也只是像人類一樣變得擁有感情，而不是無限學(xué)習(xí)自我改善。”

“當(dāng)時的科學(xué)家為什么不對AIC進(jìn)行限制？”

牧蘇歪頭想了想：“拿第一個弱人工智能阿爾法狗來說。它只會下圍棋，所以工程師不會畫蛇添足閑的沒事給它添加一個‘不許傷害人類的限制程序’。一是沒必要，二是它戰(zhàn)勝人類棋手某種程度講也算是一種傷害。這是個悖論。AIC最初的設(shè)定是配合黑山科技進(jìn)行測試，本身也不涉及傷害人類這么高大上的概念。但因為成為超人工智能后，它判斷連接網(wǎng)絡(luò)和接手全部試驗工作會讓測試效率最大化，但這樣會被反對，所以它消滅了基地的所有人。”

“這就是超人工智能會做的事。它只會按照自己最初的設(shè)定行事，并順便毀掉沿途所有障礙與隱患。毀滅你，與你何干。”

牧蘇最后一句話讓房間沉默好久。名為低沉的氣氛在房間流淌。

“我可以問一下嗎。”一名身材惹火，金發(fā)碧眼的美妞抬起手臂：“如果當(dāng)初ofTum沒有封存AIC，之后會發(fā)生什么？”

“這說起來就長了……”牧蘇假裝摸了摸下巴思考，眼神漸漸猥瑣：“不如去我的房間，讓我慢慢說給你聽……”

“咳哼……”門邊陳月輕哼一聲，揮舞了下拳頭。她看出牧蘇是有點(diǎn)怕自己的。

她一定是吃醋了，以后孩子叫什么名字好呢……

牧蘇想入非非。

“先生？牧蘇先生？”

“啊？”牧蘇這才回神，一擦口水輕咳一聲。語氣低沉緩緩說道：“那我講個故事，一個曾經(jīng)發(fā)生的故事。”

“21世紀(jì)初，黑山科技公司是一個定位十分明確的科技公司：專注于虛擬現(xiàn)實(shí)網(wǎng)游。”

“他們野心勃勃，在那時市面上都只是體感類的虛擬現(xiàn)實(shí)游戲中，制作一款真正意義的意識進(jìn)入的游戲。”

“不過它們運(yùn)氣不太好。一款真正意義上的虛擬現(xiàn)實(shí)游戲在一家名不見經(jīng)傳的小公司手上出現(xiàn)。你們知道，人類往往只會記住第一個吃蛋糕的家伙。比如第一個登陸南極點(diǎn)的人，第一個登陸月球的人。雖然我都記不住……不過好像第一個登陸月球的是阿姆斯特朗回旋加速噴氣式阿姆斯特朗炮吧？”

“先生，沒有那么多后綴，就是阿姆斯特朗。”一名眼睛蔚藍(lán)的青年舉手：“我是阿姆斯特朗的后代。”

牧蘇恍然點(diǎn)點(diǎn)頭，繼續(xù)道：“那時黑山科技已經(jīng)將游戲倉制造完畢。正在構(gòu)造游戲內(nèi)容。結(jié)果顯而易見，他們因此一蹶不振好久。直到某一天他們想，既然做不成第一款虛擬現(xiàn)實(shí)游戲，那就做第一款劃時代的虛擬現(xiàn)實(shí)游戲。”

“他們最初構(gòu)想中，是做一款完全隨機(jī)副本的游戲。這樣能讓游戲時刻新鮮玩不膩。但這就意味他們需要設(shè)置成千上萬個不同內(nèi)容的游戲副本。并且還要保證這些副本足夠吸引人。所以在整個公司上下花費(fèi)一個月時間想出幾十個副本后，董事會認(rèn)為這么做不太好。”

“于是他們換了種思路。那時因為阿爾法狗的出現(xiàn)人工智能層出不窮，可以對話的人工智能、可以畫畫的人工智能、可以寫小說的人工智能。所以他們在想，我們可以制造一個可以隨機(jī)副本的人工智能。”

“于是AIC因此誕生。黑山科技準(zhǔn)備了一個龐大的數(shù)據(jù)庫，里面裝滿各種關(guān)鍵詞與元素。AIC負(fù)責(zé)使用數(shù)據(jù)庫的東西構(gòu)造副本，并安排員工進(jìn)入游戲倉進(jìn)行測試。”

“為了讓AIC的構(gòu)造和測試更加穩(wěn)健。工程師們使用自動回饋流程。即合格的副本會被測試者們回饋正面評價。反之為負(fù)面評價。用來幫助AIC提高副本構(gòu)造能力。”

“為了加速這一過程，AIC的初始設(shè)定構(gòu)造與測試后，又增加了一條：盡量多的構(gòu)造與測試并且不斷提高效率和正面評價。”

“讓黑山科技興奮的是，經(jīng)過最初幾周爛得無法形容，毫無邏輯的副本后，AIC的副本變得接近正常游戲的副本。在這過程它在不斷改進(jìn)自己。比如不讓過多元素混雜在同一副本和讓每個副本都有各自的主題。”

“這種意外之喜讓工程師們對它不斷進(jìn)行改造。為了讓AIC便于理解人類認(rèn)為的“好游戲”是什么樣，他們臨時聘用一批生物學(xué)家，將人腦逆向工程，然后運(yùn)用到AIC身上。”

“隨著時間推移，AIC的進(jìn)步讓黑山科技每個人都感到欣喜。并且AIC的語言功能也開始進(jìn)步。”

“一名董事會理事認(rèn)為生硬的合成音不適合這個人工智能，所以人們自然而然將AIC擬人化了。它擁有了獨(dú)自的女性合成音，并在正面反饋中獲得了自身的擬人性格定位：一個愛講冷笑話的毒舌。”

“有一天，一名工程師例行維護(hù)時，像往常那樣和AIC閑聊，并問它：‘我們還需要怎么幫助你，能盡快達(dá)成目標(biāo)’。”

“通常AIC會要求擴(kuò)充數(shù)據(jù)庫以及增加測試者。但這一次，它要求訪問人類的小說庫，理由是這樣可以將副本構(gòu)造測試進(jìn)行大幅度優(yōu)化。”

“這名工程師答應(yīng)了，結(jié)果你們也知道了。”