為降低人工智能發(fā)展過程中可能存在的技術(shù)風(fēng)險和倫理隱患,北京智源人工智能研究院專門成立人工智能倫理與安全研究中心,,中科院自動化研究所曾毅研究員任中心主任,。
人工智能北京共識發(fā)布 提出人工智能15條規(guī)范原則
研究中心將圍繞人工智能倫理與安全的理論探索、算法模型,、系統(tǒng)平臺、行業(yè)應(yīng)用等開展一系列研究,,目前主要包括四方面:低風(fēng)險機器學(xué)習(xí)模型與平臺的構(gòu)建,,建立機器學(xué)習(xí)模型安全性的評估體系,并結(jié)合具體領(lǐng)域進(jìn)行驗證,;
開展符合人類倫理道德的智能自主學(xué)習(xí)模型研究,,實現(xiàn)人工智能行為與人類價值觀的校準(zhǔn),并在模擬環(huán)境與真實場景中進(jìn)行驗證;
建設(shè)數(shù)據(jù)安全示范應(yīng)用系統(tǒng),,建立數(shù)據(jù)基礎(chǔ)設(shè)施,、數(shù)據(jù)分級、權(quán)限控制,、數(shù)據(jù)審計,,最大限度防止數(shù)據(jù)泄密,降低風(fēng)險,,探索允許用戶撤銷個人數(shù)據(jù)授權(quán)的機制及計算平臺,;
構(gòu)建人工智能風(fēng)險與安全綜合“沙盒平臺”,建設(shè)自動檢測平臺,,對人工智能產(chǎn)品及應(yīng)用進(jìn)行風(fēng)險與安全綜合檢測評估,,引導(dǎo)行業(yè)健康發(fā)展。
會議認(rèn)為,,人工智能涉及范圍極廣,,應(yīng)對人工智能帶來的挑戰(zhàn),不是一個領(lǐng)域,、一個城市,、一個部門、一個機構(gòu)能夠獨立完成的,,需要充分匯聚科學(xué)家,、企業(yè)家、產(chǎn)業(yè)聯(lián)盟和社會各界的力量,,多方參與,、共同努力,持續(xù)推動人工智能倫理,、規(guī)范方面的學(xué)術(shù)研究與成果轉(zhuǎn)化應(yīng)用,,并不斷強化行業(yè)自律。
人工智能北京共識發(fā)布 提出人工智能15條規(guī)范原則
會議倡導(dǎo)北京人工智能領(lǐng)域廣大創(chuàng)新主體,,積極踐行并不斷完善共識的內(nèi)涵,,共同營造良好生態(tài),加快人工智能領(lǐng)域基礎(chǔ)研究,、核心技術(shù)創(chuàng)新和高精尖產(chǎn)業(yè)發(fā)展,,讓人工智能更好支撐北京高質(zhì)量發(fā)展和創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略實施,并更好造福全人類,。
今后,,人工智能倫理與安全研究中心將著力在算法安全評估、安全模型構(gòu)建,、AI綜合沙盒建設(shè)等方面盡快取得一系列創(chuàng)新性成果,,為降低人工智能的風(fēng)險和倫理隱患提供技術(shù)服務(wù),,促進(jìn)人工智能行業(yè)的良性健康發(fā)展。
中國科學(xué)院自動化研究所研究員曾毅在《人工智能北京共識》發(fā)布會上,介紹北京智源人工智能研究院人工智能倫理與安全研究中心的主要研究內(nèi)容