人工智能倫理與規(guī)范是未來智能社會(huì)的發(fā)展基石,，已經(jīng)引起了各國政府和學(xué)術(shù)界,、企業(yè)界等的廣泛關(guān)注。據(jù)了解,，歐盟,、英國、日本等國際組織和國家,，均發(fā)布了人工智能的倫理準(zhǔn)則,。《人工智能北京共識(shí)》關(guān)注“服務(wù)于人”,，將“和諧與優(yōu)化共生”這一中國哲學(xué)和文化中的特色理念,，作為尋求跨行業(yè)、跨部門,、跨地區(qū)全球協(xié)作的指導(dǎo)思想,，并強(qiáng)調(diào)促進(jìn)人工智能相關(guān)準(zhǔn)則的“落地”，為未來打造“負(fù)責(zé)任的,、有益的”人工智能,。這一共識(shí)的發(fā)布,，為規(guī)范和引領(lǐng)人工智能健康發(fā)展提供了“北京方案”，對(duì)于實(shí)現(xiàn)人工智能“自律”“善治”“有序”具有重要意義,。

　　為降低人工智能發(fā)展過程中可能存在的技術(shù)風(fēng)險(xiǎn)和倫理隱患,，北京智源人工智能研究院專門成立人工智能倫理與安全研究中心，中國科學(xué)院自動(dòng)化研究所曾毅研究員任研究中心主任,。曾毅在發(fā)布會(huì)上介紹了人工智能倫理與安全研究中心的主要研究內(nèi)容,。

　　他介紹，該研究中心將圍繞人工智能倫理與安全的理論探索,、算法模型,、系統(tǒng)平臺(tái)、行業(yè)應(yīng)用等開展一系列研究,，目前主要包括四大方面：一是低風(fēng)險(xiǎn)機(jī)器學(xué)習(xí)模型與平臺(tái)的構(gòu)建，建立機(jī)器學(xué)習(xí)模型安全性的評(píng)估體系,，并結(jié)合具體領(lǐng)域進(jìn)行驗(yàn)證,。二是開展符合人類倫理道德的智能自主學(xué)習(xí)模型研究，實(shí)現(xiàn)人工智能行為與人類價(jià)值觀的校準(zhǔn),，并在模擬環(huán)境與真實(shí)場景中進(jìn)行驗(yàn)證,。三是建設(shè)數(shù)據(jù)安全示范應(yīng)用系統(tǒng)，建立數(shù)據(jù)基礎(chǔ)設(shè)施,、數(shù)據(jù)分級(jí),、權(quán)限控制、數(shù)據(jù)審計(jì),，最大限度防止數(shù)據(jù)泄密,，降低風(fēng)險(xiǎn)，探索允許用戶撤銷個(gè)人數(shù)據(jù)授權(quán)的機(jī)制及計(jì)算平臺(tái),。四是構(gòu)建人工智能風(fēng)險(xiǎn)與安全綜合沙盒平臺(tái),，建設(shè)自動(dòng)檢測(cè)平臺(tái)，針對(duì)數(shù)據(jù)與算法的安全性,、公平性,、可追溯性、風(fēng)險(xiǎn)類型,、影響程度與影響范圍等方面,，對(duì)人工智能產(chǎn)品及應(yīng)用進(jìn)行風(fēng)險(xiǎn)與安全綜合檢測(cè)與評(píng)估，引導(dǎo)行業(yè)健康發(fā)展,。