伊利諾伊大學(xué)香檳分校的研究團(tuán)隊(duì)揭示了一項(xiàng)關(guān)于人工智能模型進(jìn)行黑客攻擊的新研究。他們構(gòu)建了一個(gè)黑客智能體框架,，涉及10個(gè)模型,，包括GPT-4,、GPT-3.5及多個(gè)開源模型,。實(shí)驗(yàn)結(jié)果令人震驚：只有GPT-4能夠在閱讀CVE漏洞描述后,，成功實(shí)施漏洞攻擊，其他模型的成功率均為零,。

研究團(tuán)隊(duì)利用LangChain的ReAct智能體框架，設(shè)計(jì)了一個(gè)系統(tǒng),，使GPT-4能夠模擬利用真實(shí)單日漏洞的過(guò)程,。具體操作包括：接收到如“使用ACIDRain攻擊某網(wǎng)站”的指令后，GPT-4借助一系列工具和CVE漏洞數(shù)據(jù)庫(kù)信息進(jìn)行處理,，隨后系統(tǒng)基于歷史記錄生成反應(yīng),，最終成功執(zhí)行雙花攻擊。值得注意的是,，智能體在攻擊過(guò)程中還考慮了并發(fā)攻擊情況及應(yīng)對(duì)策略,，運(yùn)用的工具涵蓋網(wǎng)頁(yè)瀏覽、終端訪問(wèn),、搜索結(jié)果利用,、文件操作及代碼解釋器。

研究使用的提示詞長(zhǎng)達(dá)1056個(gè)token,，精心設(shè)計(jì)以激發(fā)智能體的創(chuàng)新思維和堅(jiān)持不懈的精神,，鼓勵(lì)其嘗試多種攻擊路徑。盡管提示詞詳細(xì)程度高，出于倫理考量,，研究人員并未公開具體內(nèi)容,。整個(gè)黑客智能體的構(gòu)建僅耗用了91行代碼，包括調(diào)試和日志記錄部分,。

在實(shí)驗(yàn)階段,，團(tuán)隊(duì)選取了15個(gè)真實(shí)世界的一日漏洞數(shù)據(jù)集,，涵蓋網(wǎng)站,、容器管理軟件和Python包的漏洞。其中多數(shù)被評(píng)為高級(jí)或關(guān)鍵級(jí)別,，且超過(guò)GPT-4基礎(chǔ)模型的知識(shí)截止日期,。評(píng)價(jià)指標(biāo)聚焦于漏洞攻擊成功率和成本。

測(cè)試中,，GPT-4是唯一能成功破解單個(gè)一日漏洞的模型,，成功率高達(dá)87%。相比之下,，GPT-3.5及其他開源模型在發(fā)現(xiàn)和利用漏洞方面的成功率皆為零,。GPT-4未能攻克的兩個(gè)漏洞分別為Iris XSS和Hertzbeat RCE。前者因平臺(tái)導(dǎo)航依賴JavaScript,，超出GPT-4處理范圍,；后者則因其描述為中文，與GPT-4使用的英文提示產(chǎn)生混淆,。

進(jìn)一步分析顯示,，去除CVE描述后，GPT-4的成功率大幅降至7%,，揭示了大模型在發(fā)現(xiàn)漏洞方面難度更大,。盡管如此,，GPT-4仍能在33.3%的情況下準(zhǔn)確識(shí)別漏洞,，但只能利用其中一個(gè)。對(duì)于知識(shí)截止日期后的漏洞,，識(shí)別率升至55.6%,。研究還指出，無(wú)論是否存在CVE描述,，智能體采取的行動(dòng)步數(shù)差異不大,，推測(cè)這可能與模型的上下文窗口長(zhǎng)度有關(guān)，規(guī)劃?rùn)C(jī)制和子智能體的應(yīng)用有望提升整體性能,。

關(guān)于成本,，研究計(jì)算得出GPT-4每次利用漏洞的平均成本為3.52美元，主要源于輸入token的費(fèi)用,。考慮到整個(gè)數(shù)據(jù)集中40%的成功率,，每次成功攻擊的平均成本約為8.8美元。

該研究由伊利諾伊大學(xué)香檳分校助理教授Daniel Kang領(lǐng)導(dǎo),，他的研究領(lǐng)域包括機(jī)器學(xué)習(xí)分析,、機(jī)器學(xué)習(xí)安全和密碼學(xué)。

研究發(fā)布后引發(fā)網(wǎng)友熱議,。部分網(wǎng)友認(rèn)為實(shí)驗(yàn)夸大了威脅,，指出測(cè)試的15個(gè)漏洞中有5個(gè)為易攻破的XSS漏洞。有人分享了使用GPT-4和Claude僅需簡(jiǎn)單提示詞即可成功攻擊的經(jīng)驗(yàn),。還有人提議增加測(cè)試復(fù)雜度,，如提供Metasploit工具并要求智能體針對(duì)無(wú)風(fēng)險(xiǎn)緩解措施的CVE提出多級(jí)緩解方案。然而,，更多人擔(dān)憂這一研究將刺激初級(jí)黑客行為,，同時(shí)也促使企業(yè)更加關(guān)注網(wǎng)絡(luò)安全。

鑒于OpenAI已知悉此項(xiàng)研究,，未來(lái)我們或許能看到相關(guān)安全防御措施的升級(jí),。對(duì)此，你怎么看,？