人工智能算法的另一個復雜性特質是算法的自主性。美國科學家馮·諾依曼于20世紀50年代初成功建立了一個能夠自我繁殖的元胞自動機算法模型，它成為第一個可以自我進化的算法,。當下人工智能深度學習算法可以從海量無標注的大數(shù)據(jù)中自我學習、自我進化,。阿爾法圍棋一代曾依據(jù)人類歷史上的優(yōu)秀棋譜,，對弈了3000萬盤棋,，二代強化了自我增強學習,。如果智能算法的自主性意味著機器不再是被動的工具，而是某類主動的,、自我進化的“生命”（如人工生命）,，那么我們是否能說人工智能就是一個具有自我意識、能夠自我決定的“主體”,？以算法的觀念來看,，理性傳統(tǒng)所認可的這種“主體”其實是一個能夠協(xié)調個體自身復雜行為的中心控制單元,，它擔負該個體所有信息的整合和全部行為的控制,。強人工智能自主性遵循這一傳統(tǒng),，人們認為未來的人工智能不僅具有感知對象,、解決問題的智能,，還可能具有感知自我的意識,。弱人工智能的自主性主要是指智能行為的自組織性,，機器算法會在沒有人類程序員的干預下自發(fā)學習,，自動處理問題,，以分布式控制算法為其代表,。強人工智能主體在技術上目前還遙遙無期，常常成為科幻作品的題材,。弱人工智能的分布式控制模式目前已在人工智能領域得到廣泛應用,，形成了一種完全不同于傳統(tǒng)的主體觀念,。

要回答什么是善的算法，我們需要追溯倫理學的一個基礎問題：什么是善的行為,？該問題又可轉換為什么是正當?shù)男袨?？作為主體的“我”應該如何行為,？道義論者更強調行為原則的正當,，功利論者更看重行為結果的正當,。在英國倫理學家喬治·摩爾看來,，不論是從功利論還是道義論出發(fā)，一個行為是“正當?shù)摹痹诤艽蟪潭壬暇褪侵浮斑@一行為會產生可能的最大總量的善”,，而“我”應當按此善的原則實施某一行為,。

2015年5月，美國人約書亞·布朗在使用特斯拉的“自動駕駛”模式時遭遇嚴重車禍身亡,，成為人工智能發(fā)展中的重要事件。該事故歷經了十個多月的周密調查,，最后歸責為駕駛員過于信任人工智能,，手沒握住方向盤,，人工智能得以免責。不久的將來,，人工智能必會讓我們可完全擺脫方向盤，智能駕駛系統(tǒng)由廠商的機器人制造,，其算法不斷自我進化,，無縫嵌入龐大的物聯(lián)網中，行進于更多智能體交互的開放環(huán)境，并與它們共同形成了一個不斷自我演化的復雜算法整體,。在這一整體中,，廠商、機器人,、使用者,、眾多智能體等都是造就整體的個體，但并不存在對整體負責的“主體”,，此時我們在倫理上可能面臨根本的挑戰(zhàn)：智能行為既不遵循行為與效果之間的直接對應,，也不遵循行為與主體之間的必然聯(lián)系，我們該如何做出一個恰當?shù)牡赖屡卸?？如果智能行為的涌現(xiàn)是理性原則的失效,，我們如何從行為原則的角度來評判其行為的善，又如何能通過道德代碼的嵌入來使之成為善的算法,？如果道德主體實質上是諸多分布式智能體的組織過程,，那么什么是“我”的正當行為呢？面對人工智能的這些深層挑戰(zhàn),，最為重要的不是一味地退縮和擔憂,，而是在挑戰(zhàn)中與其共同進化和成長,。

（作者：劉勁楊,，系中國人民大學哲學院副教授）