《西部世界》第二季劇照,，網(wǎng)絡(luò)圖片

原標(biāo)題：誰(shuí)來(lái)給覺醒前的機(jī)器人念倫理緊箍咒

燒腦神劇《西部世界》第二季震撼來(lái)襲，人造人覺醒后的暴動(dòng)使人類的脆弱暴露無(wú)遺,，而人造人自身亦被散布于世界的各種控制的腳本和欲望的陷阱所網(wǎng)羅,。

集生化人與機(jī)器人于一體的人造人,，不僅像人類那樣具有自我意識(shí)，而且還能夠把活人的思維,、意識(shí),、記憶和情感移植進(jìn)去，成為所謂的轉(zhuǎn)生人,。不論這些真假莫辨的劇情是否在以預(yù)言的方式昭示著新人類文明的未來(lái),，人們已經(jīng)著手埋下另一條時(shí)間線——用倫理的緊箍咒哪怕在機(jī)器人覺醒之前一剎那勒緊價(jià)值的韁繩。

機(jī)器人造反,？還早著呢

其實(shí),，不論是《羅素姆萬(wàn)能機(jī)器人》與《機(jī)器管家》，還是《銀翼殺手》或《機(jī)器姬》,，都不是對(duì)人工智能或機(jī)器人研究路線圖的描繪,，而主要體現(xiàn)了人們將人工智能與人工生命的制造和人類未來(lái)聯(lián)系在一起時(shí)的選擇焦慮。

尤其是《西部世界》的場(chǎng)景完全建立在絕對(duì)權(quán)力和極度欲望之上,，是以惡為目的設(shè)計(jì)出的具象化的魔鬼樂園，其殖民主義式的末世妄想決非人與科技應(yīng)有的融合之道,。

當(dāng)然,，《西部世界》充滿魔幻的科技反烏托邦前景所折射出的文明焦慮可追溯至基督教之前就已產(chǎn)生的諾斯替主義。其核心思想是：世界并非源于神的完美創(chuàng)造,，而出自某個(gè)篡位的惡魔之手,，人類恐怕只是這個(gè)低劣的制造者的玩物，宇宙及其秩序不過(guò)是邪惡之昭彰,。

其追隨者據(jù)此認(rèn)定,，人類是被困在物質(zhì)世界里意識(shí)的火花，所幸知識(shí)可以幫人獲得自由,。在1929年出版的《世界,、眾生和惡魔：理性靈魂三大敵人的未來(lái)之探索》一書中，英國(guó)晶體學(xué)家與科學(xué)社會(huì)學(xué)家貝爾納提出了諾斯替思想的現(xiàn)代版本：科學(xué)將讓進(jìn)化發(fā)生轉(zhuǎn)折,，人不僅可通過(guò)外科手術(shù)成為具有機(jī)械身體的賽博格,，甚至有辦法讓人類的心靈最終逃脫物質(zhì)的束縛,。庫(kù)茲韋爾的靈魂機(jī)器和奇點(diǎn)觀顯然與此一脈相承,。

反觀《西部世界》,，德洛麗絲等人造人的自我覺醒與反叛，或許恰好受了諾斯替主義的啟示而發(fā)現(xiàn),，像諾斯替主義者質(zhì)疑人和世界可能源于低劣制造那樣,，貌似仁慈上帝的福特原本是無(wú)異于冷酷無(wú)情的惡魔。福特與《美麗的新世界》中的上帝重名則表明,，其“創(chuàng)造一切”的神力來(lái)自尚在試驗(yàn)和探索中的科技,，但為了“掌控一切”，他只能讓人和人造人服從其拙劣的制造魔法和機(jī)器邏輯,，加之對(duì)奴役和殺戮的崇拜,，最后必然以失控甚至毀滅告終,。

至于福特的魔法,，無(wú)疑具有鮮明的現(xiàn)代版諾斯替色彩，不只涉及智能的程序化設(shè)計(jì),，更試圖操縱與控制記憶,、認(rèn)知、情感和意識(shí)等心智過(guò)程,。

造反還沒造，倫理規(guī)則已先行

鑒于制造是嘗試性和不完美的,，最令以奴役人造人為宗旨的魔法實(shí)施者心虛的莫過(guò)于人造人造反。近年來(lái),，有些學(xué)者提出了機(jī)器道德的構(gòu)想,，試圖通過(guò)程序和算法使智能機(jī)器像人一樣遵守倫理規(guī)范、具有道德認(rèn)知能力,，已有人將這種研究應(yīng)用到自動(dòng)駕駛汽車和陪伴機(jī)器人的設(shè)計(jì)上,。

尤其是隨著人工智能和機(jī)器人的新一輪熱潮的興起，世界上很多國(guó)家,、地區(qū)和機(jī)構(gòu)相繼推出了倫理指南,、標(biāo)準(zhǔn)和宣言，提出了有針對(duì)性的倫理原則,。當(dāng)然,，目前人工智能和機(jī)器人還遠(yuǎn)不具備自我意識(shí)和道德自覺,，讓它們明辨是非的設(shè)想一時(shí)還難以照進(jìn)現(xiàn)實(shí),。

相關(guān)各方已經(jīng)意識(shí)到，人工智能與機(jī)器人倫理原則與標(biāo)準(zhǔn)的制定實(shí)際上是在搶占未來(lái)產(chǎn)業(yè)發(fā)展的制高點(diǎn),。IEEE（國(guó)際電氣電子工程師學(xué)會(huì)）于2017年底發(fā)布《人工智能設(shè)計(jì)的倫理準(zhǔn)則》（第二版）提出,，人工智能的設(shè)計(jì)、開發(fā)和應(yīng)用應(yīng)遵循人權(quán),、福祉,、問責(zé),、透明和慎用等倫理原則，仔細(xì)探討了自動(dòng)系統(tǒng)的透明性,、數(shù)據(jù)隱私,、算法偏見、數(shù)據(jù)治理等當(dāng)前備受關(guān)注的倫理問題,。

今年3月,，歐盟發(fā)表的《人工智能、機(jī)器人與自動(dòng)系統(tǒng)宣言》則強(qiáng)調(diào)了人類尊嚴(yán),，自主,，負(fù)責(zé)，公正,、平等與團(tuán)結(jié),，民主、守法與問責(zé),，保密,、安全與身心完整，數(shù)據(jù)保護(hù)與隱私等九大倫理原則,。

國(guó)內(nèi)的相關(guān)研究也在緊鑼密鼓地展開,。中科院于2017年下半年啟動(dòng)了咨詢項(xiàng)目“人工智能倫理研究”及“大數(shù)據(jù)倫理問題與社會(huì)治理”，中國(guó)標(biāo)準(zhǔn)化委員會(huì)目前正在組織實(shí)施中國(guó)機(jī)器人倫理標(biāo)準(zhǔn)和人工智能的法律及社會(huì)倫理標(biāo)準(zhǔn)的研究,。

其中,，北大哲學(xué)系在今年3月頒布的《中國(guó)機(jī)器人標(biāo)準(zhǔn)化白皮書》立足多元、植入,、正義和繁榮等優(yōu)化共生框架,，提出了人的尊嚴(yán)與人權(quán)、責(zé)任,、透明度,、避免濫用以及共生繁榮等五大倫理目標(biāo)。

在機(jī)器人覺醒之前,，人類給機(jī)器人,、更確切地說(shuō)是給自己，念起了這些倫理的緊箍咒,。這不是諾斯替魔法預(yù)先編制的程序,，而是在我們尚有選擇的自由時(shí)，為人類的權(quán)利與尊嚴(yán)抵擋人類注定拙劣制造的戕害撐起雅典娜之盾,。

□段偉文（科技哲學(xué)學(xué)者）