專家：探索人工智能45°平衡律 —— 兼顧安全與性能發(fā)展

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-07-04 16:02:55 文匯

專家：探索人工智能45°平衡律

7月4日,，2024世界人工智能大會與人工智能全球治理高級別會議在上海拉開帷幕,。會上,，上海人工智能實驗室的主任及首席科學(xué)家周伯文教授發(fā)表了重要演講,，他同時也是清華大學(xué)惠妍講席教授及銜遠(yuǎn)科技的創(chuàng)始人,。周教授在演講中提出了一個新穎的技術(shù)理念——探索人工智能45°平衡律（Towards AI-45°Law）,，旨在強調(diào)AI安全的重要性,，同時確保技術(shù)性能的持續(xù)發(fā)展,。專家：探索人工智能45°平衡律！

周伯文指出,，盡管基于大模型的生成式AI正迅速進(jìn)步,，但其能力和應(yīng)用的拓展也引發(fā)了對潛在風(fēng)險的關(guān)注。這些風(fēng)險涵蓋了數(shù)據(jù)隱私泄露,、惡意使用導(dǎo)致的虛假信息傳播,、算法偏見，乃至對就業(yè)市場和社會系統(tǒng)的長遠(yuǎn)影響,。在科幻影視作品中,，AI失控的情景更是屢見不鮮，加劇了公眾的憂慮,。

他強調(diào),，防范AI風(fēng)險需社會各界通力合作，科研界尤應(yīng)承擔(dān)起責(zé)任,。去年,，眾多國際AI專家與公眾人物聯(lián)名簽署《Statement of AI Risk》，表達(dá)了對AI潛在威脅的警惕,，并提議將其防控上升至全球優(yōu)先級,。

周教授分析稱，當(dāng)前AI發(fā)展失衡,，性能提升顯著,，而安全措施卻相對滯后且分散，形成“跛腳”狀態(tài),。他將此形容為Crippled AI,，背后的原因在于安全領(lǐng)域相較于AI能力的發(fā)展，在研究體系,、人才,、資金和算力投入上均有顯著差距。

因此,，他提倡追求Trustworthy AGI（可信的通用人工智能）,，主張在保障安全的前提下促進(jìn)性能提升，即AI-45°平衡律,。這一理念鼓勵在AI發(fā)展中采取技術(shù)驅(qū)動,、全面優(yōu)化,、多方協(xié)作及靈活管理的策略,，確保安全與性能的長期均衡發(fā)展。

上海人工智能實驗室正在探索一條以因果關(guān)系為核心的技術(shù)路徑——“因果之梯”，旨在分階段實現(xiàn)可信AGI的泛對齊,、可干預(yù)和能反思,，每一階段都對應(yīng)著不同的安全技術(shù)與性能提升策略，旨在逐步邁向安全與高效并重的AI未來,。

周教授展望,，通過深入探索AI的內(nèi)在機理和因果邏輯，AI技術(shù)有望如可控核聚變般,，為人類社會帶來正面且深遠(yuǎn)的影響,。他呼吁全球合作，加強AI安全技術(shù)共享,、人才培養(yǎng)與國際合作,，共同塑造一個開放且安全的AI生態(tài)環(huán)境。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

專家：探索人工智能45°平衡律 —— 兼顧安全與性能發(fā)展

相關(guān)新聞

今日熱點

頻道熱點