人工智能和包括機器人在內(nèi)的智能化自動系統(tǒng)的普遍應(yīng)用，不僅僅是一場結(jié)果未知的開放性的科技創(chuàng)新,，更將是人類文明史上影響甚為深遠的社會倫理試驗,。誠如霍金所言，人工智能的短期影響由控制它的人決定,，而長期影響則取決于人工智能是否完全為人所控制,。

人工智能體的擬主體性與人工倫理智能體

人工智能的倫理問題之所以受到前所未有的關(guān)注,，關(guān)鍵原因在于其能實現(xiàn)某種可計算的感知,、認(rèn)知和行為,，從而在功能上模擬人的智能和行動。在人工智能創(chuàng)立之初,，英國科學(xué)家圖靈、美國科學(xué)家明斯基等先驅(qū)的初衷是運用計算機制造能實現(xiàn)人類所有認(rèn)知功能的通用人工智能或強人工智能,。但科學(xué)家們不久就發(fā)現(xiàn),，要使機器像人一樣理解語言和抽象概念，通過學(xué)習(xí)全面達到人類智能的水平,，并非一日之功,。迄今為止，應(yīng)用日益廣泛的各種人工智能和機器人尚屬狹義人工智能或弱人工智能,，只能簡單地執(zhí)行人交給它們的任務(wù),。

一般地，人工智能及智能自動系統(tǒng)能根據(jù)人的設(shè)計自動地感知或認(rèn)知環(huán)境（包括人）并執(zhí)行某些行動,，還可能具備一定的人機交互功能甚至可以與人“對話”,，常常被看作具有一定自主性和交互性的實體。有鑒于此,，人工智能學(xué)家引入了智能體（agents,，又稱智能主體）的概念來定義人工智能：對能夠從環(huán)境中獲取感知并執(zhí)行行動的智能體的描述和構(gòu)建。于是,，可將各種人工智能系統(tǒng)稱為人工智能體或智能體,。從技術(shù)上講，智能體的功能是智能算法賦予的：智能體運用智能算法對環(huán)境中的數(shù)據(jù)進行自動感知和認(rèn)知,，并使其映射到自動行為與決策之中,，以達成人為其設(shè)定的目標(biāo)和任務(wù)?？梢哉f,，智能體與智能算法實為一體兩面，智能算法是智能體的功能內(nèi)核,，智能體是智能算法的具體體現(xiàn),。

從智能體概念出發(fā)，使人工智能系統(tǒng)更為明晰地呈現(xiàn)為可以模擬和替代人類的理性行為,，因可與人類相比擬乃至比肩的存在,，故可視之為“擬主體”，或者說智能體具有某種“擬主體性”。如果僅將智能體看作一般的技術(shù)人造物,，其研究進路與其他科技倫理類似,，主要包括面向應(yīng)用場景的描述性研究、凸顯主體責(zé)任的責(zé)任倫理研究以及基于主體權(quán)利的權(quán)利倫理研究,。但在人們賦予智能體以擬主體性的同時,，會自然地聯(lián)想到，不論智能體是否像主體那樣具有道德意識,，它們的行為可以看作是與主體倫理行為類似的擬倫理行為,。進而可追問：能不能運用智能算法對人工智能體的擬倫理行為進行倫理設(shè)計，即用代碼編寫的算法使人所倡導(dǎo)的價值取向與倫理規(guī)范得以嵌入到各種智能體之中,，令其成為遵守道德規(guī)范乃至具有自主倫理抉擇能力的人工倫理智能體,？