在現(xiàn)實(shí)中，我們也許要在設(shè)計(jì)時(shí)特意將意識(shí)加入機(jī)器才行

任何配備了統(tǒng)計(jì)公式的計(jì)算器都能進(jìn)行信度估算,，但目前還沒(méi)有機(jī)器擁有人類這樣的后設(shè)認(rèn)知能力,。

新浪科技訊北京時(shí)間8月13日消息，據(jù)國(guó)外媒體報(bào)道,，很多人都有這樣的疑問(wèn)：人工智能最終是否能具有自己的意識(shí),？而一名人工智能專家對(duì)此的回應(yīng)是，這主要取決于我們自己是否希望讓機(jī)器擁有意識(shí),。

這聽(tīng)上去可能太大膽了些,。意識(shí)的內(nèi)在機(jī)制——我們?yōu)楹螌?duì)世界有著這般生動(dòng)而直接的體驗(yàn)——一直是神經(jīng)科學(xué)領(lǐng)域的一大未解之謎。甚至有人認(rèn)為,，這個(gè)謎團(tuán)將永遠(yuǎn)都無(wú)法解開(kāi),。想用客觀的科學(xué)方法解釋人們的主觀體驗(yàn)似乎是不可能的。但在過(guò)去的20多年間,，科學(xué)家對(duì)意識(shí)開(kāi)展了大量深入分析,，并取得了重大進(jìn)展?？茖W(xué)家已經(jīng)發(fā)現(xiàn)了一些與意識(shí)相關(guān)的神經(jīng)活動(dòng),，也進(jìn)一步了解了哪些行為需要意識(shí)的參與。大腦會(huì)按照潛意識(shí)執(zhí)行許多高級(jí)別的認(rèn)知任務(wù),。

總言之,，意識(shí)并不一定是我們認(rèn)知過(guò)程的副產(chǎn)物。這一點(diǎn)對(duì)人工智能或許也是如此,。在許多科幻故事中,，機(jī)器只要足夠精密復(fù)雜，就會(huì)自動(dòng)生成自己的精神世界,。但在現(xiàn)實(shí)中,，我們也許要在設(shè)計(jì)時(shí)特意將意識(shí)加入機(jī)器才行。

從科學(xué)與工程的角度來(lái)看,，我們有充分的理由進(jìn)行嘗試,。人類對(duì)意識(shí)本身的無(wú)知便是其中之一。18和19世紀(jì)的工程師發(fā)明蒸汽機(jī)時(shí),，物理學(xué)家還沒(méi)有提出熱力學(xué)法則,。可見(jiàn)發(fā)明有時(shí)也能促進(jìn)理論進(jìn)步,。今天的情況也不例外,。針對(duì)意識(shí)的討論往往太偏于哲學(xué),，總是繞來(lái)繞去地兜圈子，卻提不出任何實(shí)際成果,。而少數(shù)研究人工意識(shí)的專家便希望反其道而行之,，在實(shí)踐中學(xué)習(xí)。

此外,，意識(shí)必須能發(fā)揮一定重要功能才行,，否則早就在進(jìn)化過(guò)程中被淘汰了。這些功能也可以套用到人工智能身上,。而在這方面,，科幻作品同樣造成了誤導(dǎo)。無(wú)論是在小說(shuō)還是電視節(jié)目中,，意識(shí)對(duì)人工智能而言都像是一種詛咒,。它們會(huì)刻意做出無(wú)法預(yù)測(cè)的行為，而這些行為往往對(duì)人類不利,。但在現(xiàn)實(shí)世界中，這種反烏托邦式的情景其實(shí)不大可能出現(xiàn),。無(wú)論人工智能會(huì)造成何種風(fēng)險(xiǎn),，都不取決于它們是否具備獨(dú)立意識(shí)。恰恰相反,，有意識(shí)的機(jī)器還能幫助我們應(yīng)對(duì)人工智能技術(shù)帶來(lái)的沖擊,。有專家表示，相比毫無(wú)想法的自動(dòng)化技術(shù),，他寧愿與這些有意識(shí)的機(jī)器共事,。

AlphaGo與人類圍棋冠軍李世乭一決高下時(shí)，很多專家都在思索AlphaGo為何會(huì)按這種方式下圍棋,。他們想要解釋并理解AlphaGo的動(dòng)機(jī)和邏輯依據(jù),。這種情況對(duì)現(xiàn)代人工智能而言十分普遍，因?yàn)樗鼈兊臎Q策并非由人類提前設(shè)定好,，而是通過(guò)學(xué)習(xí)算法和用于訓(xùn)練它們的數(shù)據(jù)集自發(fā)產(chǎn)生,。由于無(wú)法參透這些人工智能，很多人擔(dān)心它們的決策可能有失公平,、過(guò)于武斷?，F(xiàn)在已經(jīng)有了算法歧視的例子。如去年的一項(xiàng)調(diào)查發(fā)現(xiàn),，佛羅里達(dá)法官和假釋官使用的一套算法存在種族歧視的情況,，導(dǎo)致黑人罪犯被標(biāo)注的累犯概率會(huì)高于實(shí)際情況，而白人罪犯則低于實(shí)際情況,。

從明年開(kāi)始,，歐盟法律將給予歐盟居民“要求解釋權(quán)”,。人們將有權(quán)要求相關(guān)人士解釋某個(gè)人工智能系統(tǒng)為何會(huì)做出某種決策。但這項(xiàng)新要求從技術(shù)上來(lái)說(shuō)頗具挑戰(zhàn)性,?？紤]到目前神經(jīng)網(wǎng)絡(luò)的復(fù)雜程度，我們還很難參透人工智能做出決策的過(guò)程,，更別提將這個(gè)過(guò)程翻譯成人類能理解的語(yǔ)言了,。

如果我們弄不清楚人工智能為何會(huì)這么做，能否直接問(wèn)問(wèn)它們呢,？我們可以為人工智能配備后設(shè)認(rèn)知能力（metacognition）,，讓它們回顧自身行為，報(bào)告自己的內(nèi)部精神狀態(tài),。這種能力是意識(shí)的主要功能之一,。神經(jīng)科學(xué)家在測(cè)試人或動(dòng)物是否有意識(shí)時(shí)，尋找的便是這種能力,。例如,，自信作為后設(shè)認(rèn)知的基本形式之一，意識(shí)體驗(yàn)越清晰明了,、自信水平便越高,。如果大腦是在不知不覺(jué)中處理信息，我們便會(huì)對(duì)這些信息感覺(jué)不太確定,；而如果我們清楚地意識(shí)到了某個(gè)刺激的存在,，便會(huì)感覺(jué)自信許多，比如“我剛才肯定看見(jiàn)了紅色,?！?/p>

任何配備了統(tǒng)計(jì)公式的計(jì)算器都能進(jìn)行信度估算，但目前還沒(méi)有機(jī)器擁有人類這樣的后設(shè)認(rèn)知能力,。一些哲學(xué)家和神經(jīng)科學(xué)家提出,，后設(shè)認(rèn)知能力也許是意識(shí)的精髓。根據(jù)“意識(shí)的高階理論”假設(shè),，意識(shí)體驗(yàn)取決于對(duì)某種感覺(jué)狀態(tài)直接表征的二級(jí)表征,。當(dāng)我們知道某件事時(shí)，我們知道自己知道這件事,。而如果我們?nèi)狈@種自我意識(shí),，便可以說(shuō)沒(méi)有意識(shí)，就像處在自動(dòng)巡航模式一樣,，只是簡(jiǎn)單地接受感官輸入,、并據(jù)此采取行動(dòng)，但并未加以留意,。

這些理論為我們打造有意識(shí)的人工智能提供了一定指導(dǎo),。有專家試圖在神經(jīng)網(wǎng)絡(luò)中植入后設(shè)認(rèn)知能力,，讓它們能夠與自身內(nèi)部狀態(tài)進(jìn)行交流。該項(xiàng)目被稱作“機(jī)器現(xiàn)象學(xué),，模仿的是哲學(xué)中的“現(xiàn)象學(xué)”概念,，即通過(guò)對(duì)意識(shí)體驗(yàn)的系統(tǒng)性回顧研究意識(shí)的架構(gòu)。但教會(huì)機(jī)器用人類語(yǔ)言進(jìn)行表達(dá)并非易事,。為降低難度,，研究人員目前先專注于用機(jī)器語(yǔ)言進(jìn)行訓(xùn)練，讓它們互相分享自己的回顧性分析,。分析內(nèi)容為人工智能執(zhí)行某項(xiàng)任務(wù)的指令,。這已經(jīng)超出了一般機(jī)器交流的范疇。研究人員并未具體規(guī)定機(jī)器應(yīng)如何編譯這些指令,，因?yàn)樯窠?jīng)網(wǎng)絡(luò)自身便可產(chǎn)生對(duì)應(yīng)策略,。在訓(xùn)練過(guò)程中，若機(jī)器能成功將指令傳遞給其它機(jī)器,，便可獲得獎(jiǎng)勵(lì),。研究人員希望把該方法進(jìn)行拓展，用于人類與人工智能之間的交流,，最終讓人工智能能夠解釋自己的所作所為,。

除了讓我們?cè)谝欢ǔ潭壬蠈?shí)現(xiàn)自我理解之外，意識(shí)還能幫助我們實(shí)現(xiàn)神經(jīng)科學(xué)家安道爾·圖威（EndelTulving）所說(shuō)的“精神時(shí)間旅行”,。我們能夠有意識(shí)地預(yù)測(cè)某種行為的結(jié)果，或?qū)ξ磥?lái)做出規(guī)劃,。我們能想象在面前揮動(dòng)自己的手是什么感覺(jué),，也能在腦海中設(shè)想去廚房泡茶的場(chǎng)景，但不需要真的去做這些動(dòng)作,。

事實(shí)上,，就連我們對(duì)目前這一刻的感知也是由意識(shí)構(gòu)建出來(lái)的。許多實(shí)驗(yàn)和案例研究都證明了這一點(diǎn),。例如,，患有失認(rèn)癥的病人由于視覺(jué)皮層中與識(shí)別物體有關(guān)的部分受損，無(wú)法辨認(rèn)出自己看到的是什么物體,，但不影響伸手去拿這件東西,。如果給他們一個(gè)信封，他們也知道將其投入郵筒,。但假如在向患者展示物體與發(fā)出讓受試者去拿物體的指令之間存在時(shí)延,，患者就無(wú)法完成拿取物體的任務(wù)了。顯然,，意識(shí)與復(fù)雜的信息處理本身無(wú)關(guān),。只要某個(gè)刺激能立即激發(fā)相應(yīng)的動(dòng)作,，就無(wú)需意識(shí)的參與。但若要將感官信息保留幾秒以上,，意識(shí)就變得不可或缺了,。

從一類特殊的心理?xiàng)l件反射實(shí)驗(yàn)中，也能看出意識(shí)對(duì)于填補(bǔ)時(shí)間差的重要性,。在經(jīng)典的條件反射實(shí)驗(yàn)中（如著名的巴甫洛夫和狗）,，實(shí)驗(yàn)者會(huì)將一種刺激（如對(duì)眼瞼吹氣、或?qū)χ讣馐┘与姄簦┡c另一種無(wú)關(guān)的刺激（如一個(gè)純音）進(jìn)行配對(duì),。實(shí)驗(yàn)對(duì)象會(huì)自動(dòng)學(xué)習(xí)到兩種刺激之間存在關(guān)聯(lián),，不需要有意識(shí)地加以努力。一聽(tīng)到相應(yīng)的純音（即只有一個(gè)振動(dòng)頻率的聲音）,，他們就會(huì)自動(dòng)聯(lián)想到吹在眼瞼上的氣流或指尖所受的電擊,，下意識(shí)地做出畏縮動(dòng)作。而當(dāng)實(shí)驗(yàn)者問(wèn)他們?yōu)槭裁匆@么做時(shí),，他們也說(shuō)不出所以然來(lái),。但只有當(dāng)兩種刺激同時(shí)發(fā)生時(shí)，這種依靠潛意識(shí)的學(xué)習(xí)才會(huì)發(fā)生,。實(shí)驗(yàn)者若將第二種刺激延后些許,，受試者便只有清楚地意識(shí)到兩者之間存在關(guān)系時(shí)，即能夠解釋“聽(tīng)到純音便意味著眼睛要被吹氣了”,，才能學(xué)習(xí)到兩種刺激之間的關(guān)聯(lián),。這樣看來(lái)，受試者要想在刺激停止后保留對(duì)刺激的記憶,，就必須要有意識(shí)的參與,。

這些例子說(shuō)明，意識(shí)的功能之一便是擴(kuò)寬我們感知世界的時(shí)間窗口,，使眼前這一刻得以延長(zhǎng),。在意識(shí)的幫助下，即使在刺激消失之后,，對(duì)刺激的感官信息仍能維持一段時(shí)間,，保持靈活可用的狀態(tài)。在沒(méi)有直接感官信息輸入時(shí),，大腦也能不斷生成感官表征,。意識(shí)的時(shí)延功能可以通過(guò)實(shí)驗(yàn)證明?？茖W(xué)家弗朗西斯·克里克（FrancisCrick）和克里斯托弗·科赫（ChristofKoch）提出,，人腦僅利用視覺(jué)輸入的一部分便可完成對(duì)未來(lái)行為的規(guī)劃。只不過(guò)這些視覺(jué)輸入應(yīng)當(dāng)在有意識(shí)的狀態(tài)下完成。

這些例子的共同點(diǎn)是,，它們都涉及“反事實(shí)信息的產(chǎn)生”,，即在沒(méi)有直接感官信息輸入的情況下產(chǎn)生對(duì)應(yīng)的感覺(jué)。我們稱其為“反事實(shí)”,，因?yàn)樗婕皩?duì)過(guò)去的記憶,、或?qū)ξ磥?lái)行為的預(yù)測(cè)，而不是正在發(fā)生的實(shí)際事件,。我們還用了“產(chǎn)生”一詞,，因?yàn)樗粌H僅是信息處理，還是一個(gè)創(chuàng)造和測(cè)試假想情景的積極過(guò)程,。在感官輸入從低級(jí)別腦區(qū)向高級(jí)別腦區(qū)流動(dòng)的單向“前饋”過(guò)程中,，感官輸入會(huì)被壓縮成更抽象的感官表征。但神經(jīng)心理學(xué)研究顯示,，無(wú)論這種前饋流動(dòng)過(guò)程多么復(fù)雜,，都與意識(shí)體驗(yàn)無(wú)關(guān)。要有意識(shí)的參與,，還需要從高級(jí)別腦區(qū)向低級(jí)別腦區(qū)發(fā)送反饋,。

具備了產(chǎn)生反事實(shí)信息的能力，意識(shí)體便可從當(dāng)前環(huán)境中脫離出來(lái),，做出非反射性的行為,，如等上三秒再行動(dòng)。要想產(chǎn)生反事實(shí)信息,，我們需要建立一個(gè)掌握了外部世界統(tǒng)計(jì)學(xué)規(guī)律的“內(nèi)部模型”,，依靠該模型完成推理、運(yùn)動(dòng)控制和精神模擬等活動(dòng),。

目前的人工智能已經(jīng)有了復(fù)雜的訓(xùn)練模型,，但還要依賴人類提供的數(shù)據(jù)才能學(xué)習(xí)。若有了產(chǎn)生反事實(shí)信息的能力,，人工智能便可自己生成數(shù)據(jù)，自己想象未來(lái)可能遇到的情況,，從而更靈活地適應(yīng)之前未遇見(jiàn)過(guò)的新情境,。此外，這還能使人工智能擁有好奇心,。如果人工智能不確定未來(lái)會(huì)發(fā)生什么,，就會(huì)親自去試一試。

目前已經(jīng)有研究團(tuán)隊(duì)在嘗試為人工智能配備這種能力了,，并且已經(jīng)有那么幾次,，人工智能似乎做出了意料之外的行為。在一項(xiàng)實(shí)驗(yàn)中，研究人員模擬了一套能夠駕駛卡車的人工智能系統(tǒng),。若想讓其爬上山坡,，通常需要人類將這一動(dòng)作設(shè)為任務(wù)目標(biāo)，由人工智能找出完成該任務(wù)的最佳路徑,。但具備了好奇心的人工智能系統(tǒng)卻將山坡看成一個(gè)問(wèn)題,，即使沒(méi)有人類的指令，也會(huì)主動(dòng)尋找爬上山坡的方法,。不過(guò)該發(fā)現(xiàn)還需要進(jìn)一步研究來(lái)驗(yàn)證,。

若將“回顧”和“想象”看作意識(shí)的兩大要素，我們遲早會(huì)開(kāi)發(fā)出有意識(shí)的人工智能,，因?yàn)檫@兩項(xiàng)功能對(duì)任何機(jī)器都十分有用,。我們希望機(jī)器能解釋自己做事的方式和原因。而要打造出這樣的機(jī)器,，也能鍛煉我們自己的想象力,。這將是對(duì)意識(shí)“產(chǎn)生反事實(shí)信息”能力的終極考驗(yàn)。（葉子）

相關(guān)報(bào)道:

• 巨人網(wǎng)絡(luò)停牌重組 斥資305億收購(gòu)海外人工智能公司

• 外媒:中國(guó)做了美國(guó)要中國(guó)做的 卻也遭到美國(guó)指責(zé)

• 人工智能時(shí)代該如何奪回我們的“不知情權(quán)”

• 阿里云人工智能養(yǎng)豬:要求豬跑200公里 不達(dá)標(biāo)的加練