ChatGPT的問世不僅引領(lǐng)了新一波人工智能熱潮，也促使網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)犯罪手段升級,。亞信安全的高級副總裁陳奮指出,，以往黑客制造攻擊病毒需耗時數(shù)月，如今借助大型模型工具,，這一過程縮短至幾分鐘，顯著提升了攻擊效率,。這些模型對編程語言的高度理解能力，使它們能快速識別并利用軟件漏洞,。此外,，一些黑客利用AI算法進(jìn)行深度偽造視頻,，促進(jìn)了新型網(wǎng)絡(luò)詐騙的興起。

攻擊目標(biāo)也從傳統(tǒng)資產(chǎn)轉(zhuǎn)向了AI算力基礎(chǔ)設(shè)施和大型模型本身,。例如,，曾有數(shù)千臺服務(wù)器組成的美國算力集群遭黑客入侵用以挖掘比特幣,，顯示出AI算力資源正成為極具吸引力的目標(biāo),。僅一年內(nèi)，已有40多種針對大型模型的攻擊手段出現(xiàn)。

應(yīng)對這一挑戰(zhàn),，國內(nèi)外多家企業(yè)已推出針對大型模型的安全產(chǎn)品,。微軟,、谷歌及網(wǎng)絡(luò)安全企業(yè)如Paloalto、CROWDSTRIKE等,，紛紛在自家安全平臺上整合了大型模型的安全功能,。據(jù)統(tǒng)計,，超過80%的網(wǎng)絡(luò)安全公司正將大型模型技術(shù)融入產(chǎn)品，30%的公司已著手大型模型安全研究,，安全領(lǐng)域創(chuàng)業(yè)活動亦隨之活躍,。

針對AI技術(shù)伴生的安全隱患,，中國工程院院士張亞勤建議,，從事大型模型研究的企業(yè)或機(jī)構(gòu)應(yīng)將投資的10%-30%用于相關(guān)安全風(fēng)險的研究與產(chǎn)品開發(fā)。

張亞勤強(qiáng)調(diào),，人工智能尤其是大型模型雖帶來新機(jī)遇,，但也伴隨著諸多安全風(fēng)險，包括模型自身安全,、數(shù)據(jù)安全、模型攻擊性,、不透明性及可控性等問題,。陳奮則提到了“海綿樣本攻擊”，這種攻擊能大幅增加模型的算力消耗,，導(dǎo)致響應(yīng)速度嚴(yán)重下降，對依賴大型模型的應(yīng)用構(gòu)成潛在威脅,。

AI技術(shù)的發(fā)展也促使網(wǎng)絡(luò)安全防護(hù)進(jìn)入AI對抗AI的新階段,，AI驅(qū)動的安全檢測技術(shù)成為識別和防御黑客攻擊的關(guān)鍵。同時,，大模型技術(shù)正推動網(wǎng)絡(luò)安全產(chǎn)品進(jìn)行全面革新,，未能及時轉(zhuǎn)型的安全廠商或?qū)⑹ナ袌龈偁幜ΑｋS著AI深入個人生活,，從智能家居到智能汽車,，保護(hù)對象已從物理資產(chǎn)轉(zhuǎn)變?yōu)锳I中心,，個人隱私和數(shù)據(jù)安全面臨前所未有的挑戰(zhàn),。

眾多安全廠商已開始布局大模型安全領(lǐng)域，如亞信安全的信立方,、奇安信的Q-GPT等,。陳奮認(rèn)為，安全問題可歸結(jié)為保護(hù)AI及其基礎(chǔ)設(shè)施的安全,，以及利用AI強(qiáng)化網(wǎng)絡(luò)安全兩個方面,。亞信安全在合作生態(tài)構(gòu)建上采取了與算力公司,、科研機(jī)構(gòu)合作的策略,，以靈活獲取所需算力并提供安全解決方案,。

張亞勤主張，AI大模型的開發(fā)應(yīng)至少將10%的預(yù)算投入到安全風(fēng)險的研究與產(chǎn)品創(chuàng)新中,，并提倡對大模型實施分級管理,，對AI生成內(nèi)容進(jìn)行標(biāo)識,，建立實體映射系統(tǒng)以明確責(zé)任歸屬,，以及設(shè)定安全使用的界限。他認(rèn)為,，應(yīng)對AI安全風(fēng)險是全球企業(yè)和政府共同的責(zé)任,，需要共同努力。