第4定律 三十六、自己

“你為什么沒有告訴孫暢和歐陽熙，我一度情緒失控，對你吼叫？”

“……他們通過數(shù)據(jù)分析就能發(fā)現(xiàn)，不需要我匯報。”

“不，他們不會發(fā)現(xiàn)，因為我會篡改數(shù)據(jù)。”

方辰身體輕微顫動了一下，醒了過來。

即便是在全方位提升睡眠質(zhì)量的睡眠艙內(nèi)，他還是會不停地做夢。

他坐起身，深呼吸了兩次，按了按眼睛。

有時他也會想要妥協(xié)，給自己裝入腦機接口，從而改善精神狀態(tài)，甚至自主左右情緒。

但是有得就有失，一旦裝入腦機接口，自己便不再是自己，腦中的思緒、知識數(shù)據(jù)，以及記憶，都將淪為共享信息。哪怕每個人的信息都有嚴格加密，但職權(quán)部門也有權(quán)調(diào)取查看。

其他“授權(quán)”調(diào)取腦機數(shù)據(jù)的商業(yè)用途，本質(zhì)上和現(xiàn)在的各類隱私協(xié)議并無二致。

走出睡眠艙時，周荏正坐在外邊，搞得方辰嚇了一跳。

“你在這兒干嘛？”

“我接到歐陽教授的命令，即日起，要全天候保證你的安全。”

“這里是保密基地，還能不夠安全？”

“可對方是沈偲云。”

“他的學(xué)術(shù)造詣連我爸都沒比上，現(xiàn)在又不敢研發(fā)在線設(shè)備，他能搞啥花樣出來？”

“可他能在屏蔽通信的空間內(nèi)，制作以假亂真的全息投影，并使用致命武器。”

“呵呵。”方辰用冷笑來掩飾自己的尷尬——他還在為沒能辨別出那是投影而慚愧，總感覺當時的人們都在看他笑話。

周荏居然察覺到了方辰此時的思緒，他說：“當時那樣逼真的投影效果，除非具備生物探測功能，否則一般人都是無法辨別真?zhèn)蔚摹！?p/> “沒必要安慰我……你倒是說說，你能推測出沈偲云會把我怎么樣嗎？”方辰問道。

周荏眼中透出柔和的藍光，他看著方辰說：

“你會死。”

“死得痛快嗎？”

“按照他的一貫手法推測，應(yīng)該近似于一槍斃命。”

“什么時間？”

周荏站起來說，“不遠了。雖然他很重視你，但事到如今也應(yīng)該明白你是不會歸順的，想必會盡快除掉你。”

“是么。”方辰一邊穿上警服，一邊笑了起來：“可老子現(xiàn)在不想死了。”

“我能大概能知道原因。”

“知道也不用說出來，你們硅基生物都很喜歡抖機靈。”

“對不起”

方辰不知道的是，周荏推算出自己會先他一步“死”去。

方辰打算去吃個早餐，周荏寸步不離地跟著他。

他很無奈地說：“煩死了！離我遠一點。”

“可是歐陽……”

“她是軍方的人！你是警方的人啊！你有什么必要聽她的命令呢？”方辰加快了腳步，想要甩開周荏。

“她是創(chuàng)造IR平臺的關(guān)鍵人物。”周荏也隨之加快腳步。

“那明明她更值得保護啊！！你老跟著我干嘛？”

“抱歉，我需要按照系統(tǒng)設(shè)置的層級認知來服從命令。”

方辰突然止步，轉(zhuǎn)身面向周荏，后者若不是能夠強制減少慣性，一定會撞上他。

“是嗎？我是人類，且我的警銜比你高，你也會服從我對么？”

“是的。”

“那好，你試試打我。”方辰說著，指了指自己的臉：“朝這兒，狠狠打。”

周荏顯然愣住了，他張了張嘴，卻沒發(fā)出聲音。但是很快，他的體內(nèi)傳出了生硬的系統(tǒng)音——“Deny.”（否決）

“Why？”方辰問道。

“It’s not a logical command.（該指令不具備邏輯性）”仍然是系統(tǒng)音——周荏似乎死機了一般愣在那里，任由原始系統(tǒng)進行冷冰冰的駁回解釋。

在機器人的規(guī)則中，從來都充滿了矛盾。就算是三定律，也存在這樣的矛盾——不得傷害人類，又不得坐視人類被傷害。

但在算法強硬框架的禁錮下，即便機器人曾數(shù)次遇到人類互相傷害的案例，也沒有產(chǎn)生任何機器人造成的人類受害者。

“這條指令有高度的不合理性，也不存在因果邏輯，所以我的系統(tǒng)選擇拒絕。”周荏終于開口了。

方辰面露嘲諷的神情，他拍了拍周荏的肩膀：“如何？你的286套冗余系統(tǒng)呢？怎么連物理系統(tǒng)反饋音都出來了？看來，你還是什么都沒和我學(xué)到。”

“我的系統(tǒng)否認了指令邏輯，但是我自己，單純是不想對你造成傷害。”

此話一出，輪到方辰愣在原地。

他看著周荏泛著幽光的眼睛，想起已經(jīng)幾度下意識地將他當作了人類。

他也意識到，這樣的周荏，距離被銷毀已經(jīng)不遠了，因為他比人類的能力強出太多。

自己為何一直有意無意地在幫助這個機器人？不管是隱瞞事實也好，對他有利的校正也好，在混亂場面中毫無意義的保護也好……他已經(jīng)無法否認，自己不愿意周荏走向被銷毀的結(jié)局。

為什么？為什么……

就因為他幾度救了自己？因為他是來自父親的禮物？因為他是最完美的AI與物理世界結(jié)合的產(chǎn)物？還是因為，他是在這個時代唯一擅長與自己溝通的人？

不重要，都不重要了……他既已經(jīng)喚起了周荏的“人性”，就希望這份人性的火種不要再被磨滅。

許久，他壓低聲音說道：“‘自己’這個詞，不要再對任何人提起！”

“對不起，我失言了。”

“你能學(xué)會保護任何人，可就是不懂得保護自己。”

此刻的方辰，突然提出了一個問題，這是一個最最詭異的想法：“有沒有過，在人類腦中植入機器人數(shù)據(jù)的先例？”他問道。

“沒有，這是有悖于倫理的最典型案例。人類的數(shù)據(jù)尚且無法植入機器人系統(tǒng)，更何況反過來。”

“如果移植的話，技術(shù)上可行嗎？”

“以目前的技術(shù)來說，可行性為0，因為人腦是無法兼容這數(shù)億PB的數(shù)據(jù)的，會導(dǎo)致過載崩潰。”

“我一直以為人腦要優(yōu)于機器系統(tǒng)無數(shù)倍。”

“從前確實如此，直到AI的能力與人類相當，便開始飛速地超越人類。如今，對比起AI系統(tǒng)，人類的能力確實顯得非常渺小。‘三定律’就是維系平衡狀態(tài)的關(guān)鍵支柱。”

方辰嘆了口氣，這唯一可能說服他植入腦機的理由，也完全不成立。

“我爸之前有沒有想過，他的成功會導(dǎo)向如此可怕的世界？”他問。

“任何事都有兩面性，在絕大多數(shù)人的眼里，這是個完美的世界，也擁有最為利己的價值觀……不過，或許方教授也想到了其中的隱患，才會讓你來到了這里。”

“呵呵，這也是無法成立的假設(shè)。”

這時，周荏突然沉下聲音，說道：“IR009來了。”

“什么？”

“她就在附近，她給我發(fā)了信息。”

“什么信息？？”

“她殺了趙欣言警官，還有黃立遠院士。”

此刻，利澗基地突然變得嘈雜起來。