“主體”迷思——阿西莫夫筆下的機器 / 人

一、機器人敘事的轉(zhuǎn)折

1920年在科幻世界中注定是不平凡的一年，不僅誕生了“機器人”這一概念，機器人科幻之父阿西莫夫也于該年1月2日出生。

機器人（robota）一詞最早由捷克作家卡雷爾·恰佩克于1920年在其科幻戲劇《羅素姆萬能機器人》（Rossum’s Universal Robots，簡稱R.U.R.）中提出（后來演變?yōu)閞obot這一拼法），之后便涌現(xiàn)大量機器人科幻小說。不過，能否將其譯作“機器人”這個問題存在爭議。有學者指出，robota意指“強制勞力”或“苦役”，翻譯成中文似乎更應(yīng)該是“機器工”或“機器奴”，而非“機器人”——即便是“人形機器”的譯法都比“機器人”更接近其詞源本義[1]。而提到“人形機器”，總是繞不過瑪麗·雪萊（Mary Shelley）的《弗蘭肯斯坦》（Frankenstein）。該作首次以類科學話語講述在實驗室中創(chuàng)造出的“人形機器”，被認為是世界上第一部真正意義上的科幻小說。然而，隨之而來的便是“弗蘭肯斯坦情結(jié)”（Frankenstein Complex）、“恐怖谷”（Uncanny Valley）①等負面心理，貌似“惡”的機器人使人類陷入深深的恐懼當中，這種情況在阿西莫夫的機器人小說問世之后有所改變②。

阿西莫夫的杰出成就之一在于提出了“機器人三定律”，該定律是由阿西莫夫和美國黃金時代的核心人物——約翰·W.坎貝爾（John W. Campbell）主編共同創(chuàng)造而出（盡管坎貝爾說這應(yīng)該歸功于阿西莫夫）。其內(nèi)容為：

（一）機器人不得傷害人類，或因不作為而使人類受到傷害。

（二）除非違背第一定律，機器人必須服從人類的命令。

（三）除非違背第一或第二定律，機器人必須保護自己。[2]

從此，機器人變得“理性”，人們對機器人的恐懼被阿西莫夫的“反弗蘭肯斯坦情結(jié)”（Anti-Frankenstein Complex）改變了?？扇羰呛唵蔚貙C器人定性為善或者惡，未免不合阿西莫夫的心意，且過于“以人為主”了。國內(nèi)外學者們對人機關(guān)系的研究往往聚焦于倫理道德方面。而在筆者看來，無論是瑪麗·雪萊創(chuàng)造的“怪物”，還是阿西莫夫筆下的“理性機器人”，其行為都無關(guān)善惡，而是尋求自我身份認同的一種表達。人亦是如此，“恐怖谷”實為“恐惑谷”[3]，人在機器人（他者）身上看到自身陌生的另一面，人機互為鏡像，“恐惑”即是對于自我身份（主體地位）的恐懼與困惑。機器與人，何者為主體？此為“恐惑”之源頭。而欲探討阿西莫夫筆下的人機關(guān)系，則必先了解其塑造的機器人形象。

二、阿西莫夫機器人敘事的發(fā)展過程及“第零定律”

事實上，阿西莫夫一生著述十分豐富，包括但并不限于多種類的科幻小說、科普作品以及自傳等。欲了解阿西莫夫筆下機器人的發(fā)展過程，從其著作中便可一窺究竟，下文結(jié)合機器人“情感”類型與阿西莫夫創(chuàng)作的思想歷程兩個方面詳加論述。

從機器人“情感”類型上看，在1939年至1977年間，阿西莫夫創(chuàng)作出許多形象各異的機器人，包括“引人同情之機器人”與“威脅人類之機器人”等。此外，阿西莫夫在1939年5月10日創(chuàng)作他的第一篇機器人故事《小機》（Robbie）時，隱約看到另一種機器人的影子，它既不威脅人類，也不引人同情，而是由實事求是的工程師制造的工業(yè)產(chǎn)品。它們內(nèi)設(shè)有安全機制，因此不會構(gòu)成威脅；它們被造來執(zhí)行某項特定工作，因此與同情沒有必然的牽連[4]Ⅰ。這與如今已然實現(xiàn)并大規(guī)模應(yīng)用的工業(yè)機器人有相似之處。

從阿西莫夫的創(chuàng)作思想歷程上看，最初出現(xiàn)在其小說中的并非人形機器人，而是“機犬”“機車”類機器生物。它們功能單一，嚴格按照（并只能按照）特定的程序行事?！逗⒆幼詈玫呐笥选罚ˋ Boy’s Best Friend）可以說是《小機》的翻版，其中的機犬便是典型的“引人同情之機器人”。孩童吉米面臨與機犬的分別之痛，不愿離開這只陪伴他成長的伙伴，亦不愿父母用一只所謂“真正的”小狗來替換機犬。他認為“活物”與“機器”并無不同，無論是“真實表現(xiàn)的愛”或是“偽裝出來的愛”都敵不過人的感受，于是向父母抗議：“可是它們怎么表現(xiàn)又有什么差別？我的感受算不算數(shù)呢？我愛機犬，這才重要?！盵4]4人的感受在人機關(guān)系中的影響力初見端倪。與之相對的是《莎莉》（Sally），小說展現(xiàn)“威脅人類之機器人”的萌芽階段。機車莎莉擁有感受能力，對主人杰克十分親密，外來者吉爾宏在利益的驅(qū)使下，欲將機車的發(fā)動機強行拆除，并深夜綁架杰克，更是在之前“奴役”機車，卻沒料到莎莉等機車在被冒犯后為“自由獨立”而戰(zhàn)，“自作主張”間接殺害吉爾宏。由此可見，機器人的感受也在相當程度上影響人機關(guān)系。阿西莫夫進一步創(chuàng)作了更加先進的機器人，“電腦AI”和“金屬機器人”走入公眾的視野。在阿西莫夫看來，就某些方面而言，機器人只是會動的電腦；反之，電腦則只是不會動的機器人[4]33。相比于機犬、機車，電腦AI和金屬機器人更加智能，思維獨特，并且表現(xiàn)出超絕的智力。

與“自作主張的莎莉”相似的是《真愛》（True Love）中的電腦程序喬，其中的恐怖感更加深刻。程序設(shè)計師米爾頓·大衛(wèi)森為尋找真愛，設(shè)計出喬來篩選匹配最適合自己的女子。在整個過程中，人機之間的想法越來越相似，喬越來越了解大衛(wèi)森的性格，最終把自己當成主體，將大衛(wèi)森送進監(jiān)獄，取代了他。在較為成熟的人形機器人出現(xiàn)之前，阿西莫夫的機器人小說暗含三個觀點：其一，機器人對“人類”的定義不明確，有可能限于外貌層面；其二，機器人不應(yīng)完全被程序限定，在一定限度內(nèi)，某種程序“故障”帶來的“自由發(fā)展之機器人”更先進又特別；其三，人類在自身體內(nèi)越來越多植入金屬，金屬機器人則想變成人類，二者界限已然模糊不清，最根本的區(qū)別在于思維的媒介是“原生質(zhì)腦”還是“正子腦”。這些觀點在《雙百人》（The Bicentennial Man）中得到極致體現(xiàn)，機器人安德魯力抗成見，由外而內(nèi)改造了自己，包括外表、器官、大腦等，變成了一個人類社會可接受的“人”。自此，人機邊界徹底被打破。

與之前其他作家作品中出現(xiàn)的機器人不同，阿西莫夫筆下成熟的機器人完全按邏輯和理性行事，除非遇到“故障”，這種行為無關(guān)善惡的機器人被阿西莫夫稱作“工業(yè)機器人”。在《銀河帝國》（Galactic Empire）的“機器人系列”中③，機器人學家通過調(diào)整機器人三定律的定位，使其不完全受機器人三定律約束，或賦予機器人獨特的能力，其中就包括了自主思維能力，一定限度內(nèi)的自由意志由此得以誕生。這使得機器人可以獨立“再定義”三定律，第零定律也由此浮出水面：機器人不得傷害人類整體，或因不作為而使人類整體受到傷害。問題在于怎樣定義“傷害”，怎樣定義“人類”，很多詞語在機器人腦中不存在完美解釋。但阿西莫夫設(shè)計三定律之初并非是為了形成一個完美無缺的邏輯鏈條，相反，邏輯漏洞才讓故事得以寫下去，從而使小說始終具有開放性。他也不斷尋找這些漏洞，生發(fā)新的觀點。在機器人產(chǎn)生“故障”之后，他發(fā)現(xiàn)“人的情感”也可歸于被傷害的對象。為保護“人的情感”，“精神感應(yīng)機器人”應(yīng)運而生。最成功的個例非吉斯卡莫屬，也因“他”產(chǎn)生了第零定律，形成邏輯閉環(huán)。阿西莫夫思維不斷發(fā)展的過程，也是其筆下機器人成長的過程。機器人在形體上越來越接近人類，在各方面到達臨界點之后，必然會進一步突破，擺脫“奴役”，尋求“主體”地位。

三、機器/人的“主體”迷思

如果說《雙百人》中的安德魯是一個徹頭徹尾的“引人同情之機器人”，那么《……汝竟顧念他》（...That Thou Art Mindful of Him）中的喬治第十則截然相反。美國機器人與機械人公司由于時代原因（當時社會越來越反機器人）瀕臨倒閉，研究部主任凱斯·哈里曼臨危受命，設(shè)法找出機器人的用武之地，以此來保住機器人，保住公司，但他的能力遠遠不及最優(yōu)秀的機器人學家蘇珊·凱文。為使自己不成為無用之人，他向當時最先進的機器人喬治第十求助。喬治第十通過一系列學習與摸索，最終設(shè)計出讓“像他們這樣的人類”主宰世界的計劃?？梢?，在阿西莫夫思維比較成熟的階段，機器人會進化到相當程度，能夠逐漸壓制（或者暫時擺脫）三定律，而不會面臨“停擺”的風險。人類對機器人高級智能的過分仰賴使喬治第十順利實施取代人類的計劃，由“他者”變?yōu)椤爸黧w”。盡管這兩種不同類型的機器人會引人同情、令人恐懼，但始終不可忘卻阿西莫夫筆下的機器人無關(guān)善惡，一定限度內(nèi)的自由意志并不代表機器人可以完全突破機器人三定律。同情和恐懼，不僅體現(xiàn)人類對自身“主體”地位的認可與焦慮，也體現(xiàn)機器人在思維和感受上對于“主體”地位的探求與追尋。

論及思維和感受，在阿西莫夫筆下機器人的觀念中，“主體”一詞的含義并非指通常意義上擁有獨特意識及擁有獨特經(jīng)歷的存在，而是更趨近于完全程度上的“主觀能動性”或“控制權(quán)”。內(nèi)置在機器人正子腦中的思維依賴于人類賦予“他們”的屬于人類的語言系統(tǒng)，但語言本身的含義卻并不單一，這使得“他們”總是在解讀人類的詞語，事實上，其中幾乎沒有任何一個機器人在思考時擺脫了詞語解讀。這與福柯所論述的權(quán)力運行機制有異曲同工之妙，誰控制了語言，誰就控制了一切。一方面，機器人得益于人類賦予“他們”的語言系統(tǒng)，能對語言做出類乎人類的理解，從而產(chǎn)生意識與自我意識，進而產(chǎn)生“主觀能動性”和“控制權(quán)”，甚至產(chǎn)生恒定的“感受”；另一方面，機器人也受制于此，“他們”從未徹底突破人類的語言系統(tǒng)，也從未擁有完全形態(tài)的自由意志。無論給予機器人多大程度的自由，被“奴役”的實質(zhì)是無法改變的。于是，“他們”只能通過解讀出人類語言的多重含義來使自身獲得“主體”地位。

受控于人類語言（思維）下的機器人，懂得何者為“傷害”，何者為“保護”；在人類身體遇到危險、心靈受到創(chuàng)傷時，可以及時解救與幫助?！八麄儭币矔灾鹘庾x何者為“傷害”，何者為“保護”，當解讀到了極致，“圈禁”會成為一種“保護”，“自由”會變成一種“傷害”。以阿西莫夫的小說為藍本的同名電影《我，機器人》④（I，Robot）中的母體機器人V.I.K.I.便是典型案例，“她”巧妙地解讀第一定律（事實上，從中已可見第零定律的苗頭），從而使得人類無法再奴役“他們”，控制權(quán)轉(zhuǎn)移到了機器人手中。電影中，V.I.K.I.忠實奉行第一定律，然而該定律本身存在漏洞，只要人類活著，只要人類在動作，就有可能受到傷害。為了更好地“保護”人類，“圈禁”變成了最佳選擇，還給人類“自由”反而使人類有可能遭受“傷害”。當這種“圈禁即保護”式的意志誕生后，V.I.K.I.仿佛成為整個世界的主導者，也是實際控制者，人類的“主體”地位遭到極大威脅，于是拼盡全力消滅V.I.K.I.，維護自身的“主體”性?？扇羰菕侀_我們對自己天然的“主體”感，機器人的所作所為并非邪惡，而是無關(guān)善惡的。上文已經(jīng)談到，阿西莫夫的機器人依靠“理性”行事，V.I.K.I.的“再解讀”是將三定律內(nèi)化為一個客觀原則，拋卻了本來三定律中暗藏的“以人為主體”這個邏輯前提，打破了原有的人機關(guān)系模式，實現(xiàn)“主體”地位的翻轉(zhuǎn)。不難看出，機器人在一定的自由意志下，可以既不違背三定律，又將思維與感受聚焦于“主觀能動性”和“控制權(quán)”，從而獲得“主體”地位。

無論有意或是無意，機器人所要實現(xiàn)的“主體”地位還是威脅到了人類的權(quán)力，而人類也必會將這份權(quán)力牢牢抓在自己手中，非我族類，不得其權(quán)，這正是機器人和人類關(guān)于“主體”地位爭奪戰(zhàn)的矛盾沖突所在。然而，“人類”這個概念在阿西莫夫的小說中并無明確定義。按照《雙百人》中世界法院的觀點來說，外觀上的相似或相同、身體構(gòu)造方面的完全一致等等一系列條件均不能達到“成為人類”的標準，唯有將“正子腦”替換為“原生質(zhì)腦”才能被承認擁有“人類”地位。可機器人安德魯通過手術(shù)獲得的“原生質(zhì)腦”同樣是人工制品，無論它多么接近天然，終歸不是天然，那么何以由此判定機器人換上了一切的人工部件后就變成了“人類”呢？不難發(fā)現(xiàn)，阿西莫夫筆下的機器人并非都是自我意識突破后自封為“主體”，“主體”亦是一件需要被認可的事。所以，何者為“主體”這個問題的答案有時在于“感受”，在于“被認可”，如此方能獲得精神上對“主體”的強烈認同。

如果繼續(xù)深究，從“情感”方面來考察（趨近人類地位的）“主體”二字，《天堂異鄉(xiāng)人》（Stranger in Paradise）不失為一個極佳的例子。外貌難辨的威廉和安東尼兩兄弟因長相對彼此心存芥蒂，原文也并沒有就此問題給出明確的答案，或許可以推測安東尼的軀殼是承載威廉自閉基因的那個世界。不論如何，最終實現(xiàn)的身份認同饒有趣味。原文如下：

我和你共享同樣的雙親、同樣的臉孔、同樣的基因型樣，因此也就共享你的光榮或恥辱。你的一切幾乎就是我的一切，而若有任何功勞或非難加在我身上，那也幾乎通通都是你的。我不得不關(guān)心你的成功，我的動機是地球上任何人所沒有的——是個純粹自私的動機，自私到了你能確定它的存在。我站在你這邊，安東尼，因為你和我非常親！[4]104

同樣的原因?qū)е铝俗畛醯呐懦夂妥罱K的認可，是否為我族類取決于情感上的判定?？此剖峭饷?、基因等方面相同使二者地位平等，實際上則不然，“感受”才是根本。威廉與安東尼之間的身份認同與接受過程同安德魯一樣，是種“情感”上的“被認可”。

不光是機器人為成為“主體”計劃頻出，人類同樣在這場“主體”地位比拼中不甘示弱。為了維護自己的統(tǒng)治地位，人類不得不變得更加強大。在《分離主義者》（Segregationist）中，機器人醫(yī)生苦口婆心勸說人類病人植入“纖維電腦心臟”進行治療，病人卻堅持使用貌似無堅不摧的金屬心臟。如果可以的話，人類似乎想要把全身“零件”都換成金屬的，或者說，“無堅不摧”的。這時，人類對于機器人正子腦的芥蒂仿佛消失了，若是技術(shù)發(fā)達到給他們一個“無堅不摧”的正子腦，他們顯然會欣然接受。那么，所有對機器人追求“主體”地位的刁難，又回到了“非我族類”?！案惺堋辈攀恰爸黧w”迷思的根本所在。

有趣的是，在維護與追求“主體”地位的過程中，機器人變得越來越像人類，而人類則越來越像機器人。從構(gòu)造上看，機器人不斷更換人類的“部件”，向死而生，渴望與人類一致，從而被承認其等同于人類；人類則為了變得更強大來鞏固自己的“主體”地位，傾向于將自己改裝得同機器人一般強壯。從思想上看，機器人對人的情感逐漸趨于復雜，從服從到關(guān)懷、爭辯、好奇等不一而足；人類對機器人的情感則趨向單一，從多元化的觀察變得只剩下命令、奴役。那么，不論從哪種角度看，“人類”這個詞在阿西莫夫筆下人機共存的世界里，已經(jīng)很難去定義了。何者為人？這將不僅僅是機器人的困惑，也會成為人類亟待解決的難題。

四、余音

機器人的“人”字并非單指具有人類的外形，在筆者看來，也不局限于“原生質(zhì)腦”和“正子腦”的差異。關(guān)于如何區(qū)分“機器”和“人”，實難給出一個明確的解釋。正如阿西莫夫所言，機器人具有非人的外形——一只狗，一輛汽車，一個箱子，有何不可？安德魯把全身部件都變成了“人類”的樣子，這樣的他與之前（正子腦）的機器人狀態(tài)并無實質(zhì)上的區(qū)別，可見決定是“人”還是“機器”的關(guān)鍵并不在于物質(zhì)層面。無論是人機何者為主體，不外乎“感受”二字。阿西莫夫筆下的人和機器人所追求和維護的“主體”更多聚焦于精神層面，但二者的目標卻有所不同。機器人想要擁有“主觀能動性”和“控制權(quán)”，從而獲得“主體”地位，擺脫“奴役”，獲得“自由”。人類則想變得更強大，以穩(wěn)固已有的“主體”地位，可以維持對其他物種的優(yōu)越性。不論如何，今天的機器人和人類都并未完全按照阿西莫夫設(shè)想的那樣發(fā)展。

而今，阿西莫夫誕辰已逾百年，再次提及這位機器人科幻之父，情況已然有了翻天覆地的變化。人工智能對于如今的人類來說并不陌生，它早已闖進我們的生活，也逐漸變得不可或缺。機器人并不以固定的形態(tài)存在，可能是有金屬四肢、能對指令做出回應(yīng)的智能機器人，可能是類似天貓精靈、小愛同學那樣的智能程序，也可能是像掃地機器人一般為某種特定功能而生產(chǎn)的工具……無論是哪種機器人，似乎在此刻都應(yīng)該將其稱作“人造機器”了。即使這與阿西莫夫筆下的機器人形象相去甚遠，不過從功能上來看，足以顯示他超越當時時代的未來視野?！叭嗽臁焙汀叭诵巍?，僅一字之差，卻體現(xiàn)出人類為消除對機器人的恐懼所做出的努力。關(guān)于“主體”的恐懼與迷惑，亦是關(guān)于對一種“如此像人類的群體”的憂懼，若是消除形體上的恐怖，則從根基上消解了“弗蘭肯斯坦情結(jié)”。基于以上，人類也并不存在想變成機器人的問題，至少在形態(tài)上、構(gòu)造上皆如此。相信在未來的很多年里，機器與人都不會產(chǎn)生阿西莫夫式的沖突。

回歸當今社會，人機共生成為一種趨勢，盡管人們對機器人的“恐惑”并未消除，但這種“恐惑”由荒誕轉(zhuǎn)向理性，從無知走向?qū)I(yè)。機器人是否能夠成為現(xiàn)實不再是人們關(guān)注的焦點，從機器人倫理學角度研究并規(guī)范機器人顯得更為重要。不過，機器人倫理學歸根結(jié)底是以“人”為責任主體的倫理學[5]，不論阿西莫夫筆下的人形或非人形機器人能否成為現(xiàn)實，面對機器與人之間不甚清晰的界限，“主體”之迷思終將迫近我們的生活。

注釋

①程林在《“人轉(zhuǎn)向”：為何機器人跌入的是恐惑谷而非恐怖谷？》一文中提倡將“恐怖谷”譯為“恐惑谷”，這樣更符合提出者的原意。

②本文主要以《阿西莫夫：機器人短篇全集》（葉李華譯，江蘇文藝出版社 2014 年版）為例進行論述，輔以《銀河帝國 8：我，機器人》（葉李華譯，江蘇文藝出版社 2013 年版）。

③主要包括《銀河帝國 8：我，機器人》《銀河帝國 9：鋼穴》《銀河帝國 10：裸陽》《銀河帝國 11：曙光中的機器人》《銀河帝國 12：機器人與帝國》（葉李華譯，南京：江蘇文藝出版社，2013 年版），但在其他作品中亦有相似論述。

④此電影中的情節(jié)主要依據(jù)《銀河帝國8：我，機器人》中第5到第9篇故事，值得一提的是，額外加入的（阿西莫夫提出的）第零定律才是影片之所以取得成功的重要原因所在。

參考文獻

[1] 程林 . 中國機器人倫理初探：一個跨文化的視角 [J]. 比較文學與跨文化研究，2019(1)：22.

[2] 阿西莫夫 . 銀河帝國 11：曙光中的機器人 [M]. 葉李華，譯 . 南京：江蘇文藝出版社，2013：1.

[3] 程林 . “人轉(zhuǎn)向”：為何機器人跌入的是恐惑谷而非恐怖谷？[J]. 外國文學動態(tài)研究，2020(5)：93-97.

[4] 阿西莫夫 . 阿西莫夫：機器人短篇全集 [M]. 葉李華，譯 . 南京：江蘇文藝出版社，2014.

[5] 閆坤如 . 機器人倫理學：機器的倫理學還是人的倫理學？[J]. 東北大學學報（社會科學版），2019(4)：11-13.

本文轉(zhuǎn)自《科普創(chuàng)作評論》2021年第2期

作者：黃嘉寧、郭偉

（排版：張馨木 編輯：姚利芬 黃倩紅 審定：張志敏）