當(dāng)下人工智能的倫理思考多側(cè)重于實踐：如人工智能是否最終會成為人類事務(wù)的主導(dǎo)，該以什么倫理原則來引導(dǎo)、規(guī)范人工智能的應(yīng)用等,?？筛蟮奶魬?zhàn)卻是理論上的困惑：算法是人工智能的內(nèi)核，不同算法實則暗含有不一樣的價值選擇,，何謂善的算法？善的算法必會導(dǎo)向行為的善？人工智能算法可以自我學(xué)習(xí),、自我進化，倫理上該如何看待這種智能主體,？鑒于人工智能是一種典型的復(fù)雜行為,，從復(fù)雜性的角度我們能更深入地揭示這些困惑和挑戰(zhàn)。

人工智能算法的傳統(tǒng)通常有兩個：一是符號認(rèn)知主義,，主張智能行為依賴于符號操作,，通過基于符號表征的計算可實現(xiàn)學(xué)習(xí)、記憶,、推理,、決策，甚至情感活動,，如早期的專家系統(tǒng),；二是聯(lián)結(jié)主義，受人和動物大腦神經(jīng)結(jié)構(gòu)啟發(fā),，認(rèn)為通過大量底層簡單的“激活單元”相互交織可在高層自發(fā)涌現(xiàn)出復(fù)雜的智能行為,，這一傳統(tǒng)以人工神經(jīng)網(wǎng)絡(luò)為代表,。阿爾法圍棋的成功主要得益于后一種傳統(tǒng)，基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)實現(xiàn)算法的突破,。

以復(fù)雜性視角觀之,，基于神經(jīng)網(wǎng)絡(luò)的人工智能算法有一個突出特質(zhì)——涌現(xiàn)性，即智能是一種由算法底層的簡單規(guī)則生成的復(fù)雜行為,，智能并不由預(yù)定的算法前提所決定,。“涌現(xiàn)”被遺傳算法的創(chuàng)立者,、美國科學(xué)家霍蘭稱為復(fù)雜世界的“隱秩序”,，生命誕生、交通堵塞等都是涌現(xiàn)現(xiàn)象,。以棋類游戲智能算法為例,，棋子數(shù)是有限的，游戲規(guī)則是簡單的,，但棋局變化的可能性卻無法窮盡,。棋局的最終輸贏是一種涌現(xiàn)，決定棋局走向的不是底層的簡單規(guī)則,，而是由它們生成的更高層的組織過程,。

人工智能算法的涌現(xiàn)性具有這樣一些特點：1.智能行為不是一種底層簡單規(guī)則的加和，而是從底層到高層的層次跨越,，高層具有底層個體所不具備的復(fù)雜特性,。2.無法通過底層算法來準(zhǔn)確預(yù)測高層的涌現(xiàn)，智能是算法前提無法決定的“新奇性”,。3.涌現(xiàn)不是單一行為而是由眾多簡單個體行為到復(fù)雜集體行為的演化,。智能行為是一個過程，棋局的最終取勝不是依靠單次行為的累加,，而是算法演化系列的整體取勝,。阿爾法圍棋在與人類棋手對弈時有一些令頂尖職業(yè)棋手難以理解的“昏招”，可這些昏招到了棋局結(jié)束時竟成為取勝的“神之一手”,。這并不是證明了所謂關(guān)鍵招的重要性,，而是表明“招數(shù)系列”比“某一招”更有意義。在倫理上,，涌現(xiàn)性特質(zhì)揭示出人工智能算法具有不同于傳統(tǒng)的行為特征：人工智能算法行為不是邊界清晰的單個行為而是集體行為的演化,，其行為效果既不由“某一”行為所決定，亦不由其前提完全決定,。