當(dāng)下人工智能的倫理思考多側(cè)重于實(shí)踐：如人工智能是否最終會(huì)成為人類(lèi)事務(wù)的主導(dǎo)，該以什么倫理原則來(lái)引導(dǎo)、規(guī)范人工智能的應(yīng)用等,?？筛蟮奶魬?zhàn)卻是理論上的困惑：算法是人工智能的內(nèi)核，不同算法實(shí)則暗含有不一樣的價(jià)值選擇,，何謂善的算法,？善的算法必會(huì)導(dǎo)向行為的善,？人工智能算法可以自我學(xué)習(xí),、自我進(jìn)化,，倫理上該如何看待這種智能主體？鑒于人工智能是一種典型的復(fù)雜行為,，從復(fù)雜性的角度我們能更深入地揭示這些困惑和挑戰(zhàn),。

人工智能算法的傳統(tǒng)通常有兩個(gè)：一是符號(hào)認(rèn)知主義，主張智能行為依賴(lài)于符號(hào)操作,，通過(guò)基于符號(hào)表征的計(jì)算可實(shí)現(xiàn)學(xué)習(xí),、記憶、推理,、決策,，甚至情感活動(dòng)，如早期的專(zhuān)家系統(tǒng),；二是聯(lián)結(jié)主義,，受人和動(dòng)物大腦神經(jīng)結(jié)構(gòu)啟發(fā)，認(rèn)為通過(guò)大量底層簡(jiǎn)單的“激活單元”相互交織可在高層自發(fā)涌現(xiàn)出復(fù)雜的智能行為,，這一傳統(tǒng)以人工神經(jīng)網(wǎng)絡(luò)為代表,。阿爾法圍棋的成功主要得益于后一種傳統(tǒng)，基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)實(shí)現(xiàn)算法的突破,。

以復(fù)雜性視角觀(guān)之,，基于神經(jīng)網(wǎng)絡(luò)的人工智能算法有一個(gè)突出特質(zhì)——涌現(xiàn)性，即智能是一種由算法底層的簡(jiǎn)單規(guī)則生成的復(fù)雜行為,，智能并不由預(yù)定的算法前提所決定,。“涌現(xiàn)”被遺傳算法的創(chuàng)立者,、美國(guó)科學(xué)家霍蘭稱(chēng)為復(fù)雜世界的“隱秩序”,，生命誕生、交通堵塞等都是涌現(xiàn)現(xiàn)象,。以棋類(lèi)游戲智能算法為例,，棋子數(shù)是有限的，游戲規(guī)則是簡(jiǎn)單的,，但棋局變化的可能性卻無(wú)法窮盡,。棋局的最終輸贏是一種涌現(xiàn)，決定棋局走向的不是底層的簡(jiǎn)單規(guī)則,，而是由它們生成的更高層的組織過(guò)程,。

人工智能算法的涌現(xiàn)性具有這樣一些特點(diǎn)：1.智能行為不是一種底層簡(jiǎn)單規(guī)則的加和，而是從底層到高層的層次跨越,，高層具有底層個(gè)體所不具備的復(fù)雜特性,。2.無(wú)法通過(guò)底層算法來(lái)準(zhǔn)確預(yù)測(cè)高層的涌現(xiàn),，智能是算法前提無(wú)法決定的“新奇性”。3.涌現(xiàn)不是單一行為而是由眾多簡(jiǎn)單個(gè)體行為到復(fù)雜集體行為的演化,。智能行為是一個(gè)過(guò)程,，棋局的最終取勝不是依靠單次行為的累加，而是算法演化系列的整體取勝,。阿爾法圍棋在與人類(lèi)棋手對(duì)弈時(shí)有一些令頂尖職業(yè)棋手難以理解的“昏招”,，可這些昏招到了棋局結(jié)束時(shí)竟成為取勝的“神之一手”,。這并不是證明了所謂關(guān)鍵招的重要性,，而是表明“招數(shù)系列”比“某一招”更有意義。在倫理上,，涌現(xiàn)性特質(zhì)揭示出人工智能算法具有不同于傳統(tǒng)的行為特征：人工智能算法行為不是邊界清晰的單個(gè)行為而是集體行為的演化,，其行為效果既不由“某一”行為所決定，亦不由其前提完全決定,。

人工智能算法的另一個(gè)復(fù)雜性特質(zhì)是算法的自主性,。美國(guó)科學(xué)家馮·諾依曼于20世紀(jì)50年代初成功建立了一個(gè)能夠自我繁殖的元胞自動(dòng)機(jī)算法模型，它成為第一個(gè)可以自我進(jìn)化的算法,。當(dāng)下人工智能深度學(xué)習(xí)算法可以從海量無(wú)標(biāo)注的大數(shù)據(jù)中自我學(xué)習(xí),、自我進(jìn)化。阿爾法圍棋一代曾依據(jù)人類(lèi)歷史上的優(yōu)秀棋譜,，對(duì)弈了3000萬(wàn)盤(pán)棋,，二代強(qiáng)化了自我增強(qiáng)學(xué)習(xí)。如果智能算法的自主性意味著機(jī)器不再是被動(dòng)的工具,，而是某類(lèi)主動(dòng)的,、自我進(jìn)化的“生命”（如人工生命），那么我們是否能說(shuō)人工智能就是一個(gè)具有自我意識(shí),、能夠自我決定的“主體”,？以算法的觀(guān)念來(lái)看，理性傳統(tǒng)所認(rèn)可的這種“主體”其實(shí)是一個(gè)能夠協(xié)調(diào)個(gè)體自身復(fù)雜行為的中心控制單元,，它擔(dān)負(fù)該個(gè)體所有信息的整合和全部行為的控制,。強(qiáng)人工智能自主性遵循這一傳統(tǒng)，人們認(rèn)為未來(lái)的人工智能不僅具有感知對(duì)象,、解決問(wèn)題的智能,，還可能具有感知自我的意識(shí)。弱人工智能的自主性主要是指智能行為的自組織性,，機(jī)器算法會(huì)在沒(méi)有人類(lèi)程序員的干預(yù)下自發(fā)學(xué)習(xí),，自動(dòng)處理問(wèn)題，以分布式控制算法為其代表,。強(qiáng)人工智能主體在技術(shù)上目前還遙遙無(wú)期,，常常成為科幻作品的題材,。弱人工智能的分布式控制模式目前已在人工智能領(lǐng)域得到廣泛應(yīng)用，形成了一種完全不同于傳統(tǒng)的主體觀(guān)念,。

要回答什么是善的算法,，我們需要追溯倫理學(xué)的一個(gè)基礎(chǔ)問(wèn)題：什么是善的行為？該問(wèn)題又可轉(zhuǎn)換為什么是正當(dāng)?shù)男袨?？作為主體的“我”應(yīng)該如何行為,？道義論者更強(qiáng)調(diào)行為原則的正當(dāng)，功利論者更看重行為結(jié)果的正當(dāng),。在英國(guó)倫理學(xué)家喬治·摩爾看來(lái),，不論是從功利論還是道義論出發(fā)，一個(gè)行為是“正當(dāng)?shù)摹痹诤艽蟪潭壬暇褪侵浮斑@一行為會(huì)產(chǎn)生可能的最大總量的善”,，而“我”應(yīng)當(dāng)按此善的原則實(shí)施某一行為,。

2015年5月，美國(guó)人約書(shū)亞·布朗在使用特斯拉的“自動(dòng)駕駛”模式時(shí)遭遇嚴(yán)重車(chē)禍身亡,，成為人工智能發(fā)展中的重要事件,。該事故歷經(jīng)了十個(gè)多月的周密調(diào)查，最后歸責(zé)為駕駛員過(guò)于信任人工智能,，手沒(méi)握住方向盤(pán),，人工智能得以免責(zé)。不久的將來(lái),，人工智能必會(huì)讓我們可完全擺脫方向盤(pán),，智能駕駛系統(tǒng)由廠(chǎng)商的機(jī)器人制造，其算法不斷自我進(jìn)化,，無(wú)縫嵌入龐大的物聯(lián)網(wǎng)中,，行進(jìn)于更多智能體交互的開(kāi)放環(huán)境，并與它們共同形成了一個(gè)不斷自我演化的復(fù)雜算法整體,。在這一整體中,，廠(chǎng)商、機(jī)器人,、使用者,、眾多智能體等都是造就整體的個(gè)體，但并不存在對(duì)整體負(fù)責(zé)的“主體”,，此時(shí)我們?cè)趥惱砩峡赡苊媾R根本的挑戰(zhàn)：智能行為既不遵循行為與效果之間的直接對(duì)應(yīng),，也不遵循行為與主體之間的必然聯(lián)系，我們?cè)撊绾巫龀鲆粋€(gè)恰當(dāng)?shù)牡赖屡卸?？如果智能行為的涌現(xiàn)是理性原則的失效,，我們?nèi)绾螐男袨樵瓌t的角度來(lái)評(píng)判其行為的善，又如何能通過(guò)道德代碼的嵌入來(lái)使之成為善的算法,？如果道德主體實(shí)質(zhì)上是諸多分布式智能體的組織過(guò)程,，那么什么是“我”的正當(dāng)行為呢,？面對(duì)人工智能的這些深層挑戰(zhàn)，最為重要的不是一味地退縮和擔(dān)憂(yōu),，而是在挑戰(zhàn)中與其共同進(jìn)化和成長(zhǎng),。

（作者：劉勁楊，系中國(guó)人民大學(xué)哲學(xué)院副教授）