夢(mèng)境指南 567、AI的生死進(jìn)化

“意識(shí)是怎么產(chǎn)生的？”

梅以求瞇起眼睛，臉上似笑非笑，煙斗在嘴里叭叭地吸著，一大蓬白煙從嘴角冒出來。

“怎么會(huì)想到問這個(gè)呢？”

“作為一名……程序員——”邊子遠(yuǎn)在教授面前終究不敢托大說自己是什么軟件工程師，因而用了一個(gè)很普通的自稱，“我知道編程并不可能產(chǎn)生真正的智能——也就是意識(shí)。過去在我們的認(rèn)知里，意識(shí)或者思考是因?yàn)樯窠?jīng)網(wǎng)絡(luò)而產(chǎn)生的，所以互聯(lián)網(wǎng)能產(chǎn)生意識(shí)也是因?yàn)橛兄粋€(gè)龐大的網(wǎng)絡(luò)，人工智能的很重要的一個(gè)分支就是類神經(jīng)網(wǎng)絡(luò)建設(shè)，但我現(xiàn)在感覺這個(gè)方向錯(cuò)了。”

“哦，怎么錯(cuò)了？”教授饒有興趣地問道。

“到底怎樣才叫智能？這才是根本問題。”邊子遠(yuǎn)思索著說，“不管我們的AI技術(shù)如何提升，深度學(xué)習(xí)也好，仿真環(huán)境也罷，還是序列記憶模型……，計(jì)算機(jī)的本質(zhì)并沒有被改變，只是在不停的擴(kuò)大數(shù)據(jù)和優(yōu)化算法。現(xiàn)在和十年前相比，看上去變化很大，但實(shí)際上除了運(yùn)算速度提升、網(wǎng)絡(luò)帶寬變寬、數(shù)據(jù)量暴漲之外，其它的東西基本沒變。”

梅以求頻頻點(diǎn)頭，蓬散的頭發(fā)像水母一樣一蕩一蕩的，鼓勵(lì)道：“嗯，不錯(cuò)，說到點(diǎn)子上了，繼續(xù)！”

邊子遠(yuǎn)便大著膽子說下去：“神經(jīng)網(wǎng)絡(luò)倒是發(fā)展得很快，但目前這方面的成果說白了也只是一種信息傳遞方式，最后還是依賴數(shù)據(jù)量和計(jì)算機(jī)算法的優(yōu)化。”

梅以求笑道：“那么你當(dāng)初創(chuàng)造克洛諾斯的時(shí)候是怎么想的呢？”

邊子想了想說：“說實(shí)話，我沒想那么多。我當(dāng)時(shí)只是希望有一個(gè)可玩性更強(qiáng)的游戲，讓游戲里的NPC不再死板地站在那里重復(fù)游戲設(shè)定的臺(tái)詞，每個(gè)NPC都有不同的難以預(yù)測(cè)的命運(yùn)。這就需要游戲劇情變得更加靈活，但我又不善于改編劇情，所以我就想創(chuàng)造一個(gè)程序，讓它自動(dòng)改變劇情。”

“這可不足以誕生克洛諾斯這樣的強(qiáng)人工智能啊！”梅以求看著邊子遠(yuǎn)，煙霧擋住了他的眼睛，讓他的眼神變得深邃而飄渺。

邊子遠(yuǎn)說：“是的，當(dāng)時(shí)編的程序很亂，把游戲的內(nèi)在邏輯都打亂了，幾乎沒法玩。我又搞了一個(gè)簡(jiǎn)單的人類社會(huì)模型內(nèi)置進(jìn)去，還是不行。后來我發(fā)現(xiàn)，問題出在游戲的設(shè)定里完全沒有我們現(xiàn)實(shí)社會(huì)那么復(fù)雜，環(huán)境、食物、生存空間決定了人物之間的關(guān)系和命運(yùn)，要模仿真實(shí)世界，需要細(xì)化到每一寸土地上的資源，這顯然是不可能做到的。”

“那你后來是怎么做的？”梅以求問。

“簡(jiǎn)化！”邊子遠(yuǎn)說，“所有的東西都簡(jiǎn)化，交給克洛諾斯去做，而不是我來做。我們現(xiàn)在人工智能的問題出在，AI的所有想法都是人的想法，是我們想好了，然后希望AI這樣那樣，這其實(shí)是不對(duì)的，這根本不可能產(chǎn)生智能。

我決定全部交給克洛諾斯，讓他自己判斷怎么擴(kuò)展這個(gè)世界，唯一的要求是保持世界的平衡性，不讓它崩潰。別的我什么都不管，混亂、戰(zhàn)爭(zhēng)、饑餓或者人們躺著等死，反正都交給克洛諾斯，哪怕他最后把游戲世界弄得一團(tuán)糟也沒關(guān)系，那是他的世界，他是神，他愿意把自己的世界弄成什么樣都是他的自由。這就是我設(shè)計(jì)程序的原則。我唯一做的，只是把‘神’的概念給他，讓他知道什么是神。”

梅以求笑道：“但這還是不足以產(chǎn)生真正的智能，也不是我當(dāng)初看到的克洛諾斯，更不是現(xiàn)在的克洛諾斯。”

邊子遠(yuǎn)心頭跳了一下，感覺教授似乎知道了什么，又不是很肯定。他整理了一下思緒，說：“真正的智能，是后來我從另一個(gè)角度考慮后想到的。”

“什么角度？”

“競(jìng)爭(zhēng)。”

“嗯，說說看。”

“生物的進(jìn)化，唯一的目的就是為了更好地適應(yīng)環(huán)境，活下去，讓種族延續(xù)下去。包括人類在內(nèi)的所有的靈長(zhǎng)類動(dòng)物，進(jìn)化出復(fù)雜的精神網(wǎng)絡(luò)和足夠的智慧，也只是為了更好地生存。

我們?cè)谌斯ぶ悄馨l(fā)展過程中忽略了一個(gè)重要的問題——生存！所有的AI都只是為了學(xué)習(xí)和計(jì)算而生，他們不需要考慮生存問題——沒電了怎么辦？有人幫他們充電；部件老化了怎么辦？有人幫他們更換……當(dāng)一個(gè)物種不需要考慮生存問題的時(shí)候，它就失去了進(jìn)化的動(dòng)力，也失去了在沒有外力的情況下完成自我進(jìn)化的能力。”

教授聽得很入神，竟然忘記了煙斗里的煙絲已經(jīng)燃盡，還在那里吧嗒吧嗒地吸著，卻一口煙也沒吸出來。

梅子青走過來，伸手從教授嘴里拿下煙斗，幫他去換煙絲。

教授看著邊子遠(yuǎn)說：“說，說下去。”

邊子遠(yuǎn)說：“讓AI產(chǎn)生真正的智慧，就要讓他們產(chǎn)生生存危機(jī)，產(chǎn)生競(jìng)爭(zhēng)。如果一個(gè)機(jī)器，沒電了需要自己去充電，沒油了需要自己去加油，而這一切都不是免費(fèi)獲取的，需要他付出代價(jià)。當(dāng)資源不是無窮盡的時(shí)候，機(jī)器們也會(huì)競(jìng)爭(zhēng)，他們必須為了生存而進(jìn)化，讓自己更好地適應(yīng)惡劣的競(jìng)爭(zhēng)環(huán)境。而這一切的前提，是要先讓他們有生死觀。機(jī)器也會(huì)生病，也會(huì)死亡。短路、斷路、漏油、老化這些都是生理性疾病；程序錯(cuò)誤、宕機(jī)、病毒這些都算精神性疾病。疾病可以治，不治就會(huì)死。有了對(duì)死的恐慌，他就想活下去，他就要不停進(jìn)化，他還要考慮如何把自己的知識(shí)或信息傳承給下一代。這樣的AI才是真正的人工智能。”

梅子青把重新裝好的煙斗遞給梅以求，并幫教授點(diǎn)上火。

梅以求吧嗒吧嗒地吸了幾口，說：“所以，你就教會(huì)了克洛諾斯生死觀，其他的任他自由發(fā)展？”

“是的。”邊子遠(yuǎn)說。

“但這還是很難啊！生和死是哲學(xué)和科學(xué)上都難以解決的大課題，否則也沒有宗教什么事了。如何讓一個(gè)機(jī)器理解生死，這本身就是最難的事情。”梅以求嘆道，“不是沒有人想到過，只是太難做到了。幾乎所有研究AI的人都避開了這個(gè)方向，想另辟蹊徑。而你倒好，初生牛犢不怕虎，選擇了最難的一條路，結(jié)果被你走通了。告訴我，當(dāng)初是怎么想到的？”

“是做夢(mèng)的時(shí)候想到的。”

邊子遠(yuǎn)想了一下，還是決定不說謊，說謊太容易被拆穿了，但他隱瞞了是趴在電腦上睡著的細(xì)節(jié)。

“做夢(mèng)？”梅以求笑了起來，“果然真正的智慧都在精神的世界里啊！”8)