專家：探索人工智能45°平衡律 —— 兼顧安全與性能發(fā)展

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-07-04 16:02:55 文匯

專家：探索人工智能45°平衡律

7月4日,，2024世界人工智能大會與人工智能全球治理高級別會議在上海拉開帷幕,。會上，上海人工智能實驗室的主任及首席科學(xué)家周伯文教授發(fā)表了重要演講,，他同時也是清華大學(xué)惠妍講席教授及銜遠(yuǎn)科技的創(chuàng)始人,。周教授在演講中提出了一個新穎的技術(shù)理念——探索人工智能45°平衡律（Towards AI-45°Law）,，旨在強(qiáng)調(diào)AI安全的重要性，同時確保技術(shù)性能的持續(xù)發(fā)展,。專家：探索人工智能45°平衡律,！

周伯文指出，盡管基于大模型的生成式AI正迅速進(jìn)步,，但其能力和應(yīng)用的拓展也引發(fā)了對潛在風(fēng)險的關(guān)注,。這些風(fēng)險涵蓋了數(shù)據(jù)隱私泄露、惡意使用導(dǎo)致的虛假信息傳播,、算法偏見,，乃至對就業(yè)市場和社會系統(tǒng)的長遠(yuǎn)影響。在科幻影視作品中,，AI失控的情景更是屢見不鮮,，加劇了公眾的憂慮。

他強(qiáng)調(diào),，防范AI風(fēng)險需社會各界通力合作,，科研界尤應(yīng)承擔(dān)起責(zé)任。去年,，眾多國際AI專家與公眾人物聯(lián)名簽署《Statement of AI Risk》,，表達(dá)了對AI潛在威脅的警惕，并提議將其防控上升至全球優(yōu)先級,。

周教授分析稱,，當(dāng)前AI發(fā)展失衡,，性能提升顯著，而安全措施卻相對滯后且分散,，形成“跛腳”狀態(tài),。他將此形容為Crippled AI，背后的原因在于安全領(lǐng)域相較于AI能力的發(fā)展,，在研究體系,、人才、資金和算力投入上均有顯著差距,。

因此,，他提倡追求Trustworthy AGI（可信的通用人工智能），主張在保障安全的前提下促進(jìn)性能提升,，即AI-45°平衡律,。這一理念鼓勵在AI發(fā)展中采取技術(shù)驅(qū)動、全面優(yōu)化,、多方協(xié)作及靈活管理的策略,，確保安全與性能的長期均衡發(fā)展。

上海人工智能實驗室正在探索一條以因果關(guān)系為核心的技術(shù)路徑——“因果之梯”,，旨在分階段實現(xiàn)可信AGI的泛對齊,、可干預(yù)和能反思，每一階段都對應(yīng)著不同的安全技術(shù)與性能提升策略,，旨在逐步邁向安全與高效并重的AI未來,。

周教授展望，通過深入探索AI的內(nèi)在機(jī)理和因果邏輯,，AI技術(shù)有望如可控核聚變般,，為人類社會帶來正面且深遠(yuǎn)的影響。他呼吁全球合作,，加強(qiáng)AI安全技術(shù)共享,、人才培養(yǎng)與國際合作，共同塑造一個開放且安全的AI生態(tài)環(huán)境,。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

專家：探索人工智能45°平衡律 —— 兼顧安全與性能發(fā)展

相關(guān)新聞

今日熱點

頻道熱點