為降低人工智能發(fā)展過(guò)程中可能存在的技術(shù)風(fēng)險(xiǎn)和倫理隱患,，北京智源人工智能研究院專(zhuān)門(mén)成立人工智能倫理與安全研究中心，中科院自動(dòng)化研究所曾毅研究員任中心主任,。

人工智能北京共識(shí)發(fā)布 提出人工智能15條規(guī)范原則

研究中心將圍繞人工智能倫理與安全的理論探索,、算法模型、系統(tǒng)平臺(tái),、行業(yè)應(yīng)用等開(kāi)展一系列研究,，目前主要包括四方面：低風(fēng)險(xiǎn)機(jī)器學(xué)習(xí)模型與平臺(tái)的構(gòu)建，建立機(jī)器學(xué)習(xí)模型安全性的評(píng)估體系,，并結(jié)合具體領(lǐng)域進(jìn)行驗(yàn)證,；

開(kāi)展符合人類(lèi)倫理道德的智能自主學(xué)習(xí)模型研究，實(shí)現(xiàn)人工智能行為與人類(lèi)價(jià)值觀的校準(zhǔn),，并在模擬環(huán)境與真實(shí)場(chǎng)景中進(jìn)行驗(yàn)證,；

建設(shè)數(shù)據(jù)安全示范應(yīng)用系統(tǒng)，建立數(shù)據(jù)基礎(chǔ)設(shè)施,、數(shù)據(jù)分級(jí),、權(quán)限控制、數(shù)據(jù)審計(jì),，最大限度防止數(shù)據(jù)泄密,，降低風(fēng)險(xiǎn)，探索允許用戶撤銷(xiāo)個(gè)人數(shù)據(jù)授權(quán)的機(jī)制及計(jì)算平臺(tái),；

構(gòu)建人工智能風(fēng)險(xiǎn)與安全綜合“沙盒平臺(tái)”,，建設(shè)自動(dòng)檢測(cè)平臺(tái)，對(duì)人工智能產(chǎn)品及應(yīng)用進(jìn)行風(fēng)險(xiǎn)與安全綜合檢測(cè)評(píng)估,，引導(dǎo)行業(yè)健康發(fā)展,。

會(huì)議認(rèn)為,，人工智能涉及范圍極廣，應(yīng)對(duì)人工智能帶來(lái)的挑戰(zhàn),，不是一個(gè)領(lǐng)域,、一個(gè)城市、一個(gè)部門(mén),、一個(gè)機(jī)構(gòu)能夠獨(dú)立完成的,，需要充分匯聚科學(xué)家、企業(yè)家,、產(chǎn)業(yè)聯(lián)盟和社會(huì)各界的力量,，多方參與、共同努力,，持續(xù)推動(dòng)人工智能倫理,、規(guī)范方面的學(xué)術(shù)研究與成果轉(zhuǎn)化應(yīng)用，并不斷強(qiáng)化行業(yè)自律,。

人工智能北京共識(shí)發(fā)布 提出人工智能15條規(guī)范原則

會(huì)議倡導(dǎo)北京人工智能領(lǐng)域廣大創(chuàng)新主體,，積極踐行并不斷完善共識(shí)的內(nèi)涵，共同營(yíng)造良好生態(tài),，加快人工智能領(lǐng)域基礎(chǔ)研究,、核心技術(shù)創(chuàng)新和高精尖產(chǎn)業(yè)發(fā)展，讓人工智能更好支撐北京高質(zhì)量發(fā)展和創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略實(shí)施,，并更好造福全人類(lèi),。

今后，人工智能倫理與安全研究中心將著力在算法安全評(píng)估,、安全模型構(gòu)建,、AI綜合沙盒建設(shè)等方面盡快取得一系列創(chuàng)新性成果，為降低人工智能的風(fēng)險(xiǎn)和倫理隱患提供技術(shù)服務(wù),，促進(jìn)人工智能行業(yè)的良性健康發(fā)展,。