中國科學(xué)院自動化研究所研究員曾毅在《人工智能北京共識》發(fā)布會上，介紹北京智源人工智能研究院人工智能倫理與安全研究中心的主要研究內(nèi)容,。 資料圖

　　中國青年網(wǎng)北京5月25日電 (記者 盧冠瓊) 5月25日上午，北京智源人工智能研究院聯(lián)合北京大學(xué),、清華大學(xué),、中國科學(xué)院自動化研究所、中國科學(xué)院計算技術(shù)研究所,、新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟等高校,、科研院所和產(chǎn)業(yè)聯(lián)盟，共同發(fā)布《人工智能北京共識》,。北京智源人工智能研究院人工智能倫理與安全研究中心在發(fā)布會中揭牌成立,。

　　據(jù)悉，《人工智能北京共識》針對人工智能的研發(fā),、使用,、治理三方面，提出了各個參與方應(yīng)該遵循的有益于人類命運(yùn)共同體構(gòu)建和社會發(fā)展的15條原則,。

　　其中，研發(fā)方面,，《人工智能北京共識》提倡要有益于增進(jìn)社會與生態(tài)的福祉，服從人類的整體利益,，設(shè)計上要合乎倫理,，體現(xiàn)出多樣性與包容性，盡可能地惠及更多人,，要對潛在倫理風(fēng)險與隱患負(fù)責(zé),，提升技術(shù)水平控制各種風(fēng)險，并最大范圍共享人工智能發(fā)展成果,。使用方面,，提倡善用和慎用，避免誤用和濫用,，以最大化人工智能技術(shù)帶來的益處,、最小化其風(fēng)險,，應(yīng)確保利益相關(guān)者對其權(quán)益所受影響有充分的知情與同意，并能夠通過教育與培訓(xùn)適應(yīng)人工智能發(fā)展帶來的影響,。在治理方面,，對人工智能部分替代人類工作保持包容和謹(jǐn)慎態(tài)度，鼓勵探索更能發(fā)揮人類優(yōu)勢和特點(diǎn)的新工作,，廣泛開展國際合作,，共享人工智能治理經(jīng)驗。

　　人工智能倫理與規(guī)范是未來智能社會的發(fā)展基石,，已經(jīng)引起了各國政府和學(xué)術(shù)界,、企業(yè)界等的廣泛關(guān)注。據(jù)了解,，歐盟,、英國、日本等國際組織和國家,，均發(fā)布了人工智能的倫理準(zhǔn)則,。《人工智能北京共識》關(guān)注“服務(wù)于人”,，將“和諧與優(yōu)化共生”這一中國哲學(xué)和文化中的特色理念,，作為尋求跨行業(yè),、跨部門,、跨地區(qū)全球協(xié)作的指導(dǎo)思想，并強(qiáng)調(diào)促進(jìn)人工智能相關(guān)準(zhǔn)則的“落地”,，為未來打造“負(fù)責(zé)任的,、有益的”人工智能。這一共識的發(fā)布,，為規(guī)范和引領(lǐng)人工智能健康發(fā)展提供了“北京方案”，對于實現(xiàn)人工智能“自律”“善治”“有序”具有重要意義,。

　　為降低人工智能發(fā)展過程中可能存在的技術(shù)風(fēng)險和倫理隱患，北京智源人工智能研究院專門成立人工智能倫理與安全研究中心,，中國科學(xué)院自動化研究所曾毅研究員任研究中心主任,。曾毅在發(fā)布會上介紹了人工智能倫理與安全研究中心的主要研究內(nèi)容,。

　　他介紹,，該研究中心將圍繞人工智能倫理與安全的理論探索,、算法模型、系統(tǒng)平臺,、行業(yè)應(yīng)用等開展一系列研究，目前主要包括四大方面：一是低風(fēng)險機(jī)器學(xué)習(xí)模型與平臺的構(gòu)建,，建立機(jī)器學(xué)習(xí)模型安全性的評估體系，并結(jié)合具體領(lǐng)域進(jìn)行驗證,。二是開展符合人類倫理道德的智能自主學(xué)習(xí)模型研究，實現(xiàn)人工智能行為與人類價值觀的校準(zhǔn),，并在模擬環(huán)境與真實場景中進(jìn)行驗證。三是建設(shè)數(shù)據(jù)安全示范應(yīng)用系統(tǒng),，建立數(shù)據(jù)基礎(chǔ)設(shè)施、數(shù)據(jù)分級,、權(quán)限控制、數(shù)據(jù)審計,，最大限度防止數(shù)據(jù)泄密，降低風(fēng)險,，探索允許用戶撤銷個人數(shù)據(jù)授權(quán)的機(jī)制及計算平臺,。四是構(gòu)建人工智能風(fēng)險與安全綜合沙盒平臺,，建設(shè)自動檢測平臺,，針對數(shù)據(jù)與算法的安全性,、公平性、可追溯性,、風(fēng)險類型、影響程度與影響范圍等方面,，對人工智能產(chǎn)品及應(yīng)用進(jìn)行風(fēng)險與安全綜合檢測與評估，引導(dǎo)行業(yè)健康發(fā)展,。

　　會議認(rèn)為，人工智能涉及范圍極廣,，應(yīng)對人工智能帶來的挑戰(zhàn)，不是一個領(lǐng)域,、一個城市、一個部門,、一個機(jī)構(gòu)能夠獨(dú)立完成的,，需要充分匯聚科學(xué)家、企業(yè)家,、產(chǎn)業(yè)聯(lián)盟和社會各界的力量，多方參與,、共同努力，持續(xù)推動人工智能倫理,、規(guī)范方面的學(xué)術(shù)研究與成果轉(zhuǎn)化應(yīng)用,，并不斷強(qiáng)化行業(yè)自律。會議倡導(dǎo)北京人工智能領(lǐng)域廣大創(chuàng)新主體，積極踐行并不斷完善共識的內(nèi)涵,，共同營造良好生態(tài)，加快人工智能領(lǐng)域基礎(chǔ)研究,、核心技術(shù)創(chuàng)新和高精尖產(chǎn)業(yè)發(fā)展，讓人工智能更好支撐北京高質(zhì)量發(fā)展和創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略實施,，并更好造福全人類。

　　今后,，人工智能倫理與安全研究中心將著力在算法安全評估,、安全模型構(gòu)建、AI綜合沙盒建設(shè)等方面盡快取得一系列創(chuàng)新性成果,，為降低人工智能的風(fēng)險和倫理隱患提供技術(shù)服務(wù)，促進(jìn)人工智能行業(yè)的良性健康發(fā)展,。