人工智能和包括機(jī)器人在內(nèi)的智能化自動(dòng)系統(tǒng)的普遍應(yīng)用，不僅僅是一場(chǎng)結(jié)果未知的開放性的科技創(chuàng)新,，更將是人類文明史上影響甚為深遠(yuǎn)的社會(huì)倫理試驗(yàn),。誠(chéng)如霍金所言，人工智能的短期影響由控制它的人決定,，而長(zhǎng)期影響則取決于人工智能是否完全為人所控制,。

人工智能體的擬主體性與人工倫理智能體

人工智能的倫理問(wèn)題之所以受到前所未有的關(guān)注，關(guān)鍵原因在于其能實(shí)現(xiàn)某種可計(jì)算的感知,、認(rèn)知和行為,，從而在功能上模擬人的智能和行動(dòng)。在人工智能創(chuàng)立之初,，英國(guó)科學(xué)家圖靈,、美國(guó)科學(xué)家明斯基等先驅(qū)的初衷是運(yùn)用計(jì)算機(jī)制造能實(shí)現(xiàn)人類所有認(rèn)知功能的通用人工智能或強(qiáng)人工智能。但科學(xué)家們不久就發(fā)現(xiàn),，要使機(jī)器像人一樣理解語(yǔ)言和抽象概念,，通過(guò)學(xué)習(xí)全面達(dá)到人類智能的水平，并非一日之功,。迄今為止,，應(yīng)用日益廣泛的各種人工智能和機(jī)器人尚屬狹義人工智能或弱人工智能，只能簡(jiǎn)單地執(zhí)行人交給它們的任務(wù),。

一般地,，人工智能及智能自動(dòng)系統(tǒng)能根據(jù)人的設(shè)計(jì)自動(dòng)地感知或認(rèn)知環(huán)境（包括人）并執(zhí)行某些行動(dòng)，還可能具備一定的人機(jī)交互功能甚至可以與人“對(duì)話”,，常常被看作具有一定自主性和交互性的實(shí)體,。有鑒于此，人工智能學(xué)家引入了智能體（agents,，又稱智能主體）的概念來(lái)定義人工智能：對(duì)能夠從環(huán)境中獲取感知并執(zhí)行行動(dòng)的智能體的描述和構(gòu)建,。于是，可將各種人工智能系統(tǒng)稱為人工智能體或智能體,。從技術(shù)上講,，智能體的功能是智能算法賦予的：智能體運(yùn)用智能算法對(duì)環(huán)境中的數(shù)據(jù)進(jìn)行自動(dòng)感知和認(rèn)知，并使其映射到自動(dòng)行為與決策之中,，以達(dá)成人為其設(shè)定的目標(biāo)和任務(wù),。可以說(shuō),，智能體與智能算法實(shí)為一體兩面,，智能算法是智能體的功能內(nèi)核，智能體是智能算法的具體體現(xiàn),。

從智能體概念出發(fā),，使人工智能系統(tǒng)更為明晰地呈現(xiàn)為可以模擬和替代人類的理性行為，因可與人類相比擬乃至比肩的存在,，故可視之為“擬主體”,，或者說(shuō)智能體具有某種“擬主體性”。如果僅將智能體看作一般的技術(shù)人造物,，其研究進(jìn)路與其他科技倫理類似,，主要包括面向應(yīng)用場(chǎng)景的描述性研究,、凸顯主體責(zé)任的責(zé)任倫理研究以及基于主體權(quán)利的權(quán)利倫理研究。但在人們賦予智能體以擬主體性的同時(shí),，會(huì)自然地聯(lián)想到,，不論智能體是否像主體那樣具有道德意識(shí)，它們的行為可以看作是與主體倫理行為類似的擬倫理行為,。進(jìn)而可追問(wèn)：能不能運(yùn)用智能算法對(duì)人工智能體的擬倫理行為進(jìn)行倫理設(shè)計(jì),，即用代碼編寫的算法使人所倡導(dǎo)的價(jià)值取向與倫理規(guī)范得以嵌入到各種智能體之中，令其成為遵守道德規(guī)范乃至具有自主倫理抉擇能力的人工倫理智能體,？