ChatGPT的問世不僅引領(lǐng)了新一波人工智能熱潮,，也促使網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)犯罪手段升級,。亞信安全的高級副總裁陳奮指出，以往黑客制造攻擊病毒需耗時數(shù)月,，如今借助大型模型工具,，這一過程縮短至幾分鐘，顯著提升了攻擊效率,。這些模型對編程語言的高度理解能力,，使它們能快速識別并利用軟件漏洞。此外,，一些黑客利用AI算法進行深度偽造視頻,，促進了新型網(wǎng)絡(luò)詐騙的興起。

攻擊目標(biāo)也從傳統(tǒng)資產(chǎn)轉(zhuǎn)向了AI算力基礎(chǔ)設(shè)施和大型模型本身,。例如,，曾有數(shù)千臺服務(wù)器組成的美國算力集群遭黑客入侵用以挖掘比特幣，顯示出AI算力資源正成為極具吸引力的目標(biāo),。僅一年內(nèi),，已有40多種針對大型模型的攻擊手段出現(xiàn)。

應(yīng)對這一挑戰(zhàn),，國內(nèi)外多家企業(yè)已推出針對大型模型的安全產(chǎn)品,。微軟、谷歌及網(wǎng)絡(luò)安全企業(yè)如Paloalto,、CROWDSTRIKE等,，紛紛在自家安全平臺上整合了大型模型的安全功能。據(jù)統(tǒng)計,，超過80%的網(wǎng)絡(luò)安全公司正將大型模型技術(shù)融入產(chǎn)品,，30%的公司已著手大型模型安全研究，安全領(lǐng)域創(chuàng)業(yè)活動亦隨之活躍,。

針對AI技術(shù)伴生的安全隱患,，中國工程院院士張亞勤建議，從事大型模型研究的企業(yè)或機構(gòu)應(yīng)將投資的10%-30%用于相關(guān)安全風(fēng)險的研究與產(chǎn)品開發(fā),。

張亞勤強調(diào),，人工智能尤其是大型模型雖帶來新機遇，但也伴隨著諸多安全風(fēng)險,，包括模型自身安全,、數(shù)據(jù)安全,、模型攻擊性、不透明性及可控性等問題,。陳奮則提到了“海綿樣本攻擊”,，這種攻擊能大幅增加模型的算力消耗，導(dǎo)致響應(yīng)速度嚴(yán)重下降,，對依賴大型模型的應(yīng)用構(gòu)成潛在威脅,。

AI技術(shù)的發(fā)展也促使網(wǎng)絡(luò)安全防護進入AI對抗AI的新階段，AI驅(qū)動的安全檢測技術(shù)成為識別和防御黑客攻擊的關(guān)鍵,。同時,，大模型技術(shù)正推動網(wǎng)絡(luò)安全產(chǎn)品進行全面革新，未能及時轉(zhuǎn)型的安全廠商或?qū)⑹ナ袌龈偁幜?。隨著AI深入個人生活,，從智能家居到智能汽車，保護對象已從物理資產(chǎn)轉(zhuǎn)變?yōu)锳I中心,，個人隱私和數(shù)據(jù)安全面臨前所未有的挑戰(zhàn),。

眾多安全廠商已開始布局大模型安全領(lǐng)域，如亞信安全的信立方,、奇安信的Q-GPT等,。陳奮認為，安全問題可歸結(jié)為保護AI及其基礎(chǔ)設(shè)施的安全,，以及利用AI強化網(wǎng)絡(luò)安全兩個方面,。亞信安全在合作生態(tài)構(gòu)建上采取了與算力公司、科研機構(gòu)合作的策略,，以靈活獲取所需算力并提供安全解決方案,。

張亞勤主張，AI大模型的開發(fā)應(yīng)至少將10%的預(yù)算投入到安全風(fēng)險的研究與產(chǎn)品創(chuàng)新中,，并提倡對大模型實施分級管理,，對AI生成內(nèi)容進行標(biāo)識，建立實體映射系統(tǒng)以明確責(zé)任歸屬,，以及設(shè)定安全使用的界限,。他認為,，應(yīng)對AI安全風(fēng)險是全球企業(yè)和政府共同的責(zé)任,，需要共同努力。