人工智能北京共識發(fā)布 提出人工智能15條規(guī)范原則

原標題：《人工智能北京共識》發(fā)布 針對人工智能的研發(fā),、使用、治理三方面提出15條規(guī)范原則

昨天,，北京智源人工智能研究院聯(lián)合北大,、清華,、中科院自動化研究所、中科院計算技術研究所,、新一代人工智能產業(yè)技術創(chuàng)新戰(zhàn)略聯(lián)盟等單位共同發(fā)布《人工智能北京共識》,，針對人工智能的研發(fā)、使用,、治理三方面，提出了各參與方應該遵循的,、有益于人類命運共同體構建和社會發(fā)展的15條原則,。

研發(fā)方面，《人工智能北京共識》提倡要有益于增進社會與生態(tài)的福祉,，服從人類的整體利益,，設計上要合乎倫理，體現(xiàn)出多樣性與包容性,，盡可能地惠及更多人,，要對潛在倫理風險與隱患負責，提升技術水平控制各種風險,，并最大范圍共享人工智能發(fā)展成果,；

使用方面，提倡善用和慎用,，避免誤用和濫用,，以最大化人工智能技術帶來的益處、最小化其風險,，應確保利益相關者對其權益所受影響有充分的知情與同意,，并能夠通過教育與培訓適應人工智能發(fā)展帶來的影響；

治理方面,，對人工智能部分替代人類工作保持包容和謹慎態(tài)度,，鼓勵探索更能發(fā)揮人類優(yōu)勢和特點的新工作，廣泛開展國際合作,，共享人工智能治理經驗,。

人工智能的準則與治理措施應做到適應和適度，并開展長遠戰(zhàn)略設計,，以確保未來人工智能始終保持向對社會有益的方向發(fā)展,。

人工智能倫理與規(guī)范是未來智能社會發(fā)展的重要基石，已經引起了相關國際組織,、政府和學術界,、企業(yè)界等的廣泛關注?！度斯ぶ悄鼙本┕沧R》的發(fā)布,，為規(guī)范和引領人工智能健康發(fā)展提供了“北京方案”,。

為降低人工智能發(fā)展過程中可能存在的技術風險和倫理隱患，北京智源人工智能研究院專門成立人工智能倫理與安全研究中心,，中科院自動化研究所曾毅研究員任中心主任,。

人工智能北京共識發(fā)布 提出人工智能15條規(guī)范原則

研究中心將圍繞人工智能倫理與安全的理論探索、算法模型,、系統(tǒng)平臺,、行業(yè)應用等開展一系列研究，目前主要包括四方面：低風險機器學習模型與平臺的構建,，建立機器學習模型安全性的評估體系,，并結合具體領域進行驗證；

開展符合人類倫理道德的智能自主學習模型研究,，實現(xiàn)人工智能行為與人類價值觀的校準,，并在模擬環(huán)境與真實場景中進行驗證；

建設數據安全示范應用系統(tǒng),，建立數據基礎設施,、數據分級、權限控制,、數據審計,，最大限度防止數據泄密，降低風險,，探索允許用戶撤銷個人數據授權的機制及計算平臺,；

構建人工智能風險與安全綜合“沙盒平臺”，建設自動檢測平臺,，對人工智能產品及應用進行風險與安全綜合檢測評估,，引導行業(yè)健康發(fā)展。

會議認為,，人工智能涉及范圍極廣,，應對人工智能帶來的挑戰(zhàn)，不是一個領域,、一個城市,、一個部門、一個機構能夠獨立完成的,，需要充分匯聚科學家,、企業(yè)家、產業(yè)聯(lián)盟和社會各界的力量,，多方參與,、共同努力，持續(xù)推動人工智能倫理,、規(guī)范方面的學術研究與成果轉化應用,，并不斷強化行業(yè)自律,。

人工智能北京共識發(fā)布 提出人工智能15條規(guī)范原則

會議倡導北京人工智能領域廣大創(chuàng)新主體，積極踐行并不斷完善共識的內涵,，共同營造良好生態(tài),，加快人工智能領域基礎研究、核心技術創(chuàng)新和高精尖產業(yè)發(fā)展,，讓人工智能更好支撐北京高質量發(fā)展和創(chuàng)新驅動發(fā)展戰(zhàn)略實施,，并更好造福全人類。

今后,，人工智能倫理與安全研究中心將著力在算法安全評估,、安全模型構建、AI綜合沙盒建設等方面盡快取得一系列創(chuàng)新性成果,，為降低人工智能的風險和倫理隱患提供技術服務，促進人工智能行業(yè)的良性健康發(fā)展,。