第4定律 二十三、改變

“啊？去哪里？我家的安保系統(tǒng)不是挺好的嗎？”方辰問。

“你那個(gè)所謂的安保系統(tǒng)，也就相當(dāng)于一個(gè)‘破門鈴’吧？沒有任何攻擊防御程序。而且，就算我們給你安裝最新的民用安保系統(tǒng)，估計(jì)也是徒勞。”

“這……有點(diǎn)突然。”

“你從前不是軍人出身嗎？”孫暢用一種疑惑的語氣問方辰：“我一直以為，你們那個(gè)年代的軍人，可以克服任何‘突然’。”

方辰一時(shí)語塞，但他心中默然想著，我已脫下軍裝將近百年了。

“好了，這些天013也是在那邊，目前位置還是機(jī)密，等你過去了，我們會(huì)對(duì)你進(jìn)行說明。”孫暢說道。

方辰回到家，沒有拿過多的物品，但是帶上了父母和女友的“盒子”。

打開門，周荏正站在門口。“好久不見，方辰警官。”

一時(shí)間，方辰有許多問題憋在喉間。但是，他沉默了一會(huì)兒，也只是說了句，“好久不見。”

周荏似乎已經(jīng)很懂得察言觀色了，他只說出三個(gè)字：“請(qǐng)放心。”

他的身后，緩緩降下一架輕型載人飛行器。方辰看清了飛行器側(cè)面的徽章。

“這是軍方的飛行器？”

“是的，我暫時(shí)無權(quán)解釋你的更多問題，待抵達(dá)基地后，將由人類負(fù)責(zé)人為你解釋。”隨即，二人登機(jī)。

“我以為你已經(jīng)很擅長(zhǎng)處理‘授權(quán)’一類的問題了。”方辰冷笑一聲。他以為現(xiàn)在的周荏已經(jīng)知道，某些事情完全可以適度繞過授權(quán)，比如提前為他解釋一些即將知曉的問題。

周荏目視下方，說道：“經(jīng)過近期的升級(jí)調(diào)校，我對(duì)于授權(quán)流程有了更深刻的認(rèn)知。”

方辰順著周荏的目光看去——這是座艙的監(jiān)控系統(tǒng)。

方辰心中掠過一絲不安，因?yàn)樗J(rèn)為這一簡(jiǎn)單的動(dòng)作，或許意味著周荏有了與人類周旋、或者自我掩飾，甚至自我修改算法的能力，這可能比繞過授權(quán)還要可怕。

但是周荏又說了一次：“放心。”

小型軍用載人飛行器的續(xù)航里程并不算很遠(yuǎn)，但是可以屏蔽各類智能感知信號(hào)，相當(dāng)于軌跡完全隱形。

無人飛行器降落在一個(gè)遠(yuǎn)郊地區(qū)的破舊停機(jī)坪，這里是一個(gè)智能化水準(zhǔn)最低的邊緣地帶，連線設(shè)備和路側(cè)智能都比較少。

周荏和方辰走入一幢年代久遠(yuǎn)的二層小樓，久遠(yuǎn)到讓方辰甚至感到了一絲自己年代的味道。

這是一間清洗中心，里邊有數(shù)臺(tái)兩人多高的大型洗衣機(jī)和干洗機(jī)，正發(fā)出機(jī)械質(zhì)感的轟鳴聲——它們?yōu)榉?wù)型客機(jī)、星際飛行客機(jī)，機(jī)器人公司等等提供清洗服務(wù)，整個(gè)空間充斥著洗滌劑的味道。

雖說是非常傳統(tǒng)的業(yè)務(wù)，但是這里也沒有人類，只有三臺(tái)老式機(jī)器人來回作業(yè)——一臺(tái)負(fù)責(zé)清洗，一臺(tái)負(fù)責(zé)折疊，一臺(tái)負(fù)責(zé)包裝。

周荏在一臺(tái)巨大的洗衣機(jī)前站定，通過透明的門組件可以看到，里邊正在翻滾著一堆臟兮兮的布質(zhì)座墊，以及卷起泡沫的水。

突然，周荏打開了洗衣機(jī)的門，方辰下意識(shí)地躲了一下，但里邊的水和物品并未泄出分毫。直到周荏走了進(jìn)去，方辰才發(fā)現(xiàn)，里邊的一切都是全息投影制造的幻象，包括這臺(tái)機(jī)器的轟鳴聲，也是音響設(shè)備播放的。

二人站在里邊，透明門關(guān)閉，“洗衣機(jī)”內(nèi)部的升降板帶著他們開始下降。地面上，洗衣機(jī)仍是正常工作的樣子，看不出任何異常。

下降了大約3分鐘后，他們抵達(dá)了一個(gè)基地，一位機(jī)器人警察為他們打開了門，并進(jìn)行了虹膜掃描識(shí)別。

“方辰警官，周荏警官，請(qǐng)進(jìn)。”它說道。

這里并不像方辰觀看過的科幻電影那般巨大，這一「秘密基地」布局緊湊，大廳約有2/3個(gè)籃球場(chǎng)那么大，另外上層還有一些住宿用的房間。

這里人員不多，但是智能連線設(shè)備、屏蔽防御設(shè)備以及量子計(jì)算機(jī)很多。

不過，這地方通風(fēng)良好，色調(diào)明亮，并不至于令長(zhǎng)期地下作業(yè)的人發(fā)生情緒問題。

正如方辰預(yù)料中的那樣，這里有數(shù)名身著軍裝的人，人數(shù)甚至超過了警方人員。

孫暢此時(shí)正在和幾位軍人交談，看到方辰后走了過來。

“這兩周多，013就是在這里調(diào)校升級(jí)。”孫暢說道：“從今天開始，你先暫時(shí)住這里。”

“他有了哪些調(diào)整？”比起了解這是什么地方，方辰更想提這個(gè)問題。

孫暢淺淺笑了一下，就像是已經(jīng)預(yù)判了方辰的焦急。“實(shí)際上，我們不是給他收緊限制，反而是為他放寬了自由度……他現(xiàn)在，認(rèn)知與決策更加接近真人，但與此同時(shí)，我們將底線進(jìn)一步加固，不然，以目前的類人程度，他很容易越界。”

“……明知道有打破三定律的風(fēng)險(xiǎn)，為什么要讓他更加類人？”

“我們需要他完成一些任務(wù)。”

“你們不怕嗎？”方辰提高了音量。他又聯(lián)想到周荏在座艙內(nèi)看著監(jiān)控傳感器的“眼神”。

“怕的話，不光AI發(fā)展不到今天的水準(zhǔn)，科學(xué)也不可能實(shí)現(xiàn)質(zhì)變，你都未必醒得過來。”

“可是這存在嚴(yán)重的倫理問題！很多觸犯人類倫理底線的科學(xué)技術(shù)，即便能夠輕松實(shí)現(xiàn)，也都只停留在理論。”

“013就只有一臺(tái)，目前還沒有014，他就是‘理論’。一旦實(shí)驗(yàn)失敗，我們有把握將其完全銷毀。”孫暢看著方辰身后的周荏，毫不避諱。

方辰陷入了沉默，此刻，他才意識(shí)到只有自己將周荏誤當(dāng)作人類。

“你們就不在乎自己的巨大心血和海量資金嗎？”

“還是那句話——在乎，科學(xué)就不會(huì)進(jìn)步。”

此時(shí)，有一位看起來50歲左右的女性軍官，向方辰走來——她在一群20余歲的年輕博士中，很是顯眼。

方辰看到她的軍銜——是正軍級(jí)，但是孫暢稱呼其為“歐陽(yáng)教授”。

“方警官。”她與方辰握了手，很有力度。方辰感到她也是還在堅(jiān)持運(yùn)動(dòng)的那類人，而且感覺她的眼神有一種與其他學(xué)者都不一樣的光亮。即便已到中年，卻看起來比年輕人更加有活力。

“早已聽聞你是單兵作戰(zhàn)一代軍人的‘活化石’。”歐陽(yáng)說。

“一介莽夫罷了。”方辰說。

“可是，我從經(jīng)你校正的013身上，可看不出莽夫的影子。他的類人價(jià)值觀，我在任何實(shí)驗(yàn)品身上都沒見過。”

方辰非常疑惑，他并沒有感覺到自己校正的參與度有多高，也不覺得周荏的改變有多大。

“我和孫暢博士都是國(guó)際安全科研中心IR架構(gòu)項(xiàng)目組的成員，之前的IR機(jī)器人都沒被用在作戰(zhàn)領(lǐng)域，而從013開始，我們終于見到了用于作戰(zhàn)的可行性，于是，希望由你這樣的優(yōu)秀軍人帶領(lǐng)，培養(yǎng)其應(yīng)變能力和作戰(zhàn)邏輯。”

“我并沒覺得他有多大變化。”

“可能從外部確實(shí)看不太出來。但我們通過他的數(shù)據(jù)和算法決策發(fā)現(xiàn)，現(xiàn)在即便修改他的算法基準(zhǔn)，他的責(zé)任感和計(jì)算能力也都能達(dá)到峰值——也就是說，從前他是嚴(yán)格依靠算法和三定律執(zhí)行任務(wù)，保護(hù)人類；而現(xiàn)在，他是基于自我意識(shí)、正向價(jià)值觀和強(qiáng)烈的責(zé)任感在進(jìn)行計(jì)算和決策。再加上他并不具備現(xiàn)代人類對(duì)于自身風(fēng)險(xiǎn)的恐懼感，以及其潤(rùn)硬件戰(zhàn)斗力，我們認(rèn)為，他已經(jīng)趨于一名完美的戰(zhàn)士。”

歐陽(yáng)并沒有用“作戰(zhàn)機(jī)器人”，而是“戰(zhàn)士”，這讓方辰覺得，自己不再是唯一將周荏看作人類的人了。