近一段時(shí)間,，中國人工智能領(lǐng)域迎來里程碑式突破,。國產(chǎn)推理大模型DeepSeek-R1的誕生標(biāo)志著我國AI技術(shù)從“追趕者”向“領(lǐng)跑者”實(shí)現(xiàn)歷史性跨越，成為全新的生產(chǎn)力工具,。該模型開源,、透明且免費(fèi)，特別適合政府與企業(yè)的私有化部署,，但隨之而來的安全問題也日益凸顯,。

今年兩會(huì)期間，全國政協(xié)委員,、360集團(tuán)創(chuàng)始人周鴻祎再度聚焦大模型安全,。他認(rèn)為，先進(jìn)模型帶來了前所未有的機(jī)遇,，但也面臨無法通過傳統(tǒng)網(wǎng)絡(luò)安全手段解決的安全挑戰(zhàn),。他呼吁各界共同努力，構(gòu)建更加完善的大模型應(yīng)用安全治理體系,，在保障安全的前提下最大化地釋放大模型技術(shù)的潛力,。

周鴻祎表示，開源帶來大模型的廣泛應(yīng)用,，未來將會(huì)有各類專業(yè)大模型,、垂直大模型和場景大模型連接內(nèi)部知識庫，以智能體的形式在大批政府機(jī)構(gòu)和企業(yè)中廣泛部署,，推進(jìn)數(shù)字化轉(zhuǎn)型,，實(shí)現(xiàn)降本增效。然而,，大模型存在幻覺,、內(nèi)容安全等諸多問題，這些無法通過傳統(tǒng)安全方案有效化解,。一旦部署在政府,、企業(yè)內(nèi)部的基座模型、知識庫或智能體中任一環(huán)節(jié)出現(xiàn)安全隱患,，都極有可能誘發(fā)整個(gè)生產(chǎn)環(huán)境爆發(fā)系統(tǒng)性風(fēng)險(xiǎn),。

大模型應(yīng)用安全主要集中在基座模型,、知識庫和智能體三個(gè)方面。由于大模型普遍存在的幻覺現(xiàn)象,，特別是在生成文本時(shí)可能輸出與現(xiàn)實(shí)不符的信息,，這在政策制定、法律條文解讀或商業(yè)決策等場景下可能導(dǎo)致誤導(dǎo)性后果,。政府和企業(yè)核心數(shù)據(jù)資產(chǎn)存儲于內(nèi)部知識庫中,，若缺乏有效的安全控制措施，未授權(quán)用戶可能利用與大模型交互的機(jī)會(huì)竊取這些寶貴的數(shù)據(jù)資源,。智能體通常與政府,、企業(yè)內(nèi)部各類IT、郵件,、控制系統(tǒng)相連,，一旦遭受攻擊，可能會(huì)引發(fā)一系列連鎖反應(yīng),，從發(fā)送有害郵件到中斷生產(chǎn)線運(yùn)作,，造成嚴(yán)重的物理損害。

針對上述挑戰(zhàn),，360運(yùn)用人工智能技術(shù)重塑安全格局,，采用“以模制模”的方式應(yīng)對新難題,，依托安全大模型技術(shù)搭建起覆蓋“基座模型—知識庫—智能體”的全鏈路安全體系,，護(hù)航政府與企業(yè)數(shù)字化轉(zhuǎn)型。為強(qiáng)化這一防御體系,，周鴻祎建議推動(dòng)安全技術(shù)創(chuàng)新與成果轉(zhuǎn)化,，并組建產(chǎn)業(yè)聯(lián)盟推廣安全產(chǎn)品。相關(guān)部門應(yīng)及時(shí)出臺配套政策措施,，鼓勵(lì)具備“安全+人工智能”完整解決方案的企業(yè)開展研發(fā)工作,，加速技術(shù)成果轉(zhuǎn)化。同時(shí),，引導(dǎo)相關(guān)企業(yè)發(fā)揮牽頭作用，吸納產(chǎn)業(yè)鏈上下游企業(yè),、科研機(jī)構(gòu)及終端用戶,，組建人工智能大模型安全聯(lián)盟，在聯(lián)盟內(nèi)部共享技術(shù)成果,，共同開展產(chǎn)品及服務(wù)測試,，待成熟穩(wěn)定后推向市場，助力大模型安全保障普及至各行各業(yè),。