近90%Ollama大模型服務(wù)器裸奔,、DeepSeek頻繁被攻擊,，模型網(wǎng)絡(luò)安全何解？隨著DeepSeek的崛起,，它吸引了更多關(guān)注和資本注入,，同時(shí)也遭受了更多網(wǎng)絡(luò)攻擊。這不是大模型公司首次面臨此類問(wèn)題,，像Kimi,、OpenAI這樣的知名公司也曾遭遇不同程度的網(wǎng)絡(luò)攻擊。

大模型被攻擊是普遍現(xiàn)象,?；仡欉^(guò)去幾年，許多大模型成為黑灰產(chǎn)業(yè)的攻擊目標(biāo),。2023年11月,，ChatGPT遭到黑客組織DDoS攻擊，多次業(yè)務(wù)中斷,；2024年9月20日,，秘塔AI搜索引擎受到Mirai變種攻擊；2025年1月7日,、11日,、23日、24日,，kimi.ai也遭受了DDoS攻擊,。

此次針對(duì)DeepSeek的攻擊在不到一個(gè)月內(nèi)接連發(fā)生，包括大規(guī)模DDoS攻擊、僵尸網(wǎng)絡(luò),、仿冒網(wǎng)站泛濫和數(shù)據(jù)庫(kù)安全隱患等,，嚴(yán)重影響了正常服務(wù)。公開(kāi)資料顯示,，DeepSeek主要面臨的是DDoS攻擊,，先后經(jīng)歷了輕微的HTTP代理攻擊、大量HTTP代理攻擊和僵尸網(wǎng)絡(luò)攻擊,，參與攻擊的兩個(gè)僵尸網(wǎng)絡(luò)分別為HailBot和RapperBot,。

奇安信安全專家指出，這些跡象反映了整個(gè)AI行業(yè)面臨的嚴(yán)峻安全挑戰(zhàn),，網(wǎng)絡(luò)攻擊可能持續(xù)時(shí)間長(zhǎng),、方式不斷進(jìn)化、烈度升級(jí),、影響擴(kuò)大,。

初創(chuàng)科技公司打造的大模型更容易成為攻擊目標(biāo)。與傳統(tǒng)互聯(lián)網(wǎng)巨頭如Bing,、通義千問(wèn),、文心一言相比，初創(chuàng)公司在安全體系建設(shè)方面能力較弱,。初創(chuàng)企業(yè)更傾向于將資源用于技術(shù)研發(fā)和迭代,，導(dǎo)致防護(hù)能力不足，容易成為攻擊目標(biāo),。

天融信安全專家表示,，大模型系統(tǒng)在運(yùn)營(yíng)中面臨多重安全風(fēng)險(xiǎn)，包括技術(shù)缺陷,、不當(dāng)使用及惡意利用,。處理敏感數(shù)據(jù)時(shí)易受攻擊，導(dǎo)致數(shù)據(jù)竊取,、服務(wù)中斷等問(wèn)題,。此外，大模型生成內(nèi)容可能引發(fā)虛假信息,、歧視、隱私泄露等問(wèn)題,，威脅公民安全,、國(guó)家安全及倫理安全。

從模型自身風(fēng)險(xiǎn)角度看,，由于需要對(duì)外提供公開(kāi)服務(wù)并涉及敏感信息,，大模型會(huì)面臨提示注入攻擊、拒絕服務(wù)攻擊、提示詞泄露,、通用越獄漏洞等安全問(wèn)題,。從防護(hù)機(jī)制建設(shè)角度看，絕大多數(shù)大模型的安全建設(shè)非常欠缺,。以DeepSeek為例,，其防御機(jī)制建設(shè)不足，未能儲(chǔ)備足夠的防護(hù)資源應(yīng)對(duì)高強(qiáng)度的DDoS攻擊,。

攻擊者還會(huì)利用對(duì)抗性攻擊和數(shù)據(jù)投毒破壞大模型的安全性,。例如，2023年某教育巨頭AI大模型因訓(xùn)練數(shù)據(jù)污染出現(xiàn)“毒教材”內(nèi)容,，導(dǎo)致市值大幅縮水,。在數(shù)據(jù)投毒方面，只需少量成本就能污染大型開(kāi)源數(shù)據(jù)集,，影響基于這些數(shù)據(jù)訓(xùn)練的大模型行為,。

初創(chuàng)大模型企業(yè)在安全開(kāi)發(fā)管理、數(shù)據(jù)保護(hù)體系,、安全對(duì)抗能力等方面存在明顯短板,，網(wǎng)絡(luò)安全防護(hù)技術(shù)滯后，傳統(tǒng)防護(hù)系統(tǒng)難以應(yīng)對(duì)復(fù)雜攻擊,。奇安信安全專家建議加強(qiáng)合規(guī)咨詢,、安全測(cè)試與評(píng)估、安全培訓(xùn),、應(yīng)急響應(yīng),、持續(xù)監(jiān)測(cè)等服務(wù)。

除了傳統(tǒng)的網(wǎng)絡(luò)安全和數(shù)據(jù)安全解決方案,，還會(huì)有專門針對(duì)大模型輸入輸出的內(nèi)容過(guò)濾產(chǎn)品,、模型保護(hù)安全產(chǎn)品、大模型倫理審核產(chǎn)品等,。

Gartner預(yù)測(cè),，到2025年，生成式AI的采用將導(dǎo)致企業(yè)機(jī)構(gòu)所需的網(wǎng)絡(luò)安全資源激增,，使應(yīng)用和數(shù)據(jù)安全支出增加15%以上,。網(wǎng)絡(luò)安全和數(shù)據(jù)安全已成為選擇數(shù)字技術(shù)時(shí)的重要考慮因素。

訓(xùn)練模型的系統(tǒng)平臺(tái)也存在安全風(fēng)險(xiǎn)隱患,，包括非授權(quán)訪問(wèn),、機(jī)器學(xué)習(xí)框架安全隱患、開(kāi)發(fā)工具鏈安全風(fēng)險(xiǎn)等,。在業(yè)務(wù)應(yīng)用層面,，大模型可能存在測(cè)試驗(yàn)證數(shù)據(jù)更新不及時(shí)的風(fēng)險(xiǎn),，以及生成違法不良信息、數(shù)據(jù)泄露,、用戶惡意使用等重點(diǎn)風(fēng)險(xiǎn),。

面對(duì)多樣化的AI攻擊形式，防御策略也需要相應(yīng)升級(jí),，利用AI驅(qū)動(dòng)的防御手段進(jìn)行攻擊面識(shí)別,、網(wǎng)絡(luò)入侵和威脅檢測(cè)。多名安全行業(yè)專家建議建立對(duì)抗性安全運(yùn)營(yíng)體系,，融合產(chǎn)品,、人員、手段和流程,，通過(guò)紅藍(lán)對(duì)抗檢驗(yàn)安全防護(hù)水平,，并利用AI大模型應(yīng)對(duì)新型攻擊。

大模型本身也需要對(duì)外提供服務(wù),，因此傳統(tǒng)的安全防護(hù)措施不可或缺,。比如使用防火墻、入侵檢測(cè),、抗DDoS硬件設(shè)備,，或者采用云抗D、云WAF等云服務(wù)保障大模型在網(wǎng)絡(luò),、數(shù)據(jù)和應(yīng)用層面的安全,。針對(duì)AI大模型特有的安全風(fēng)險(xiǎn)，需要升級(jí)安全防護(hù)手段,，對(duì)prompt內(nèi)容進(jìn)行輸入過(guò)濾與驗(yàn)證,，利用對(duì)抗訓(xùn)練技術(shù)抵抗prompt攻擊，實(shí)時(shí)監(jiān)測(cè)與審查模型輸出內(nèi)容,，及時(shí)攔截有害信息,。

雖然安全措施可能增加計(jì)算成本，但通過(guò)技術(shù)創(chuàng)新可以實(shí)現(xiàn)安全與效率的平衡,。安全問(wèn)題是大模型企業(yè)的關(guān)鍵因素之一,，決定著大模型的上限。傳統(tǒng)互聯(lián)網(wǎng)巨頭在網(wǎng)絡(luò)安全和數(shù)據(jù)安全方面布局較早,，相對(duì)安全體系建設(shè)完善,，而初創(chuàng)公司出于成本考慮或經(jīng)驗(yàn)不足，安全體系建設(shè)相對(duì)落后,。若后續(xù)不能補(bǔ)足安全體系,，即使性能再好的模型產(chǎn)品也可能曇花一現(xiàn)。大模型的安全能力不僅關(guān)乎風(fēng)險(xiǎn)防控,，更是突破應(yīng)用天花板的關(guān)鍵,。