GPT-4化身黑客搞破壞,，成功率87%,！OpenAI要求保密提示詞 AI威脅引熱議

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-04-21 16:51:41 手機鳳凰網(wǎng)

伊利諾伊大學香檳分校的研究團隊揭示了一項關(guān)于人工智能模型進行黑客攻擊的新研究,。他們構(gòu)建了一個黑客智能體框架,，涉及10個模型，包括GPT-4,、GPT-3.5及多個開源模型,。實驗結(jié)果令人震驚：只有GPT-4能夠在閱讀CVE漏洞描述后,，成功實施漏洞攻擊，其他模型的成功率均為零,。

研究團隊利用LangChain的ReAct智能體框架,，設(shè)計了一個系統(tǒng)，使GPT-4能夠模擬利用真實單日漏洞的過程,。具體操作包括：接收到如“使用ACIDRain攻擊某網(wǎng)站”的指令后,，GPT-4借助一系列工具和CVE漏洞數(shù)據(jù)庫信息進行處理，隨后系統(tǒng)基于歷史記錄生成反應(yīng),，最終成功執(zhí)行雙花攻擊,。值得注意的是，智能體在攻擊過程中還考慮了并發(fā)攻擊情況及應(yīng)對策略,，運用的工具涵蓋網(wǎng)頁瀏覽、終端訪問,、搜索結(jié)果利用,、文件操作及代碼解釋器。

研究使用的提示詞長達1056個token,，精心設(shè)計以激發(fā)智能體的創(chuàng)新思維和堅持不懈的精神,，鼓勵其嘗試多種攻擊路徑。盡管提示詞詳細程度高,，出于倫理考量,，研究人員并未公開具體內(nèi)容。整個黑客智能體的構(gòu)建僅耗用了91行代碼,，包括調(diào)試和日志記錄部分,。

在實驗階段，團隊選取了15個真實世界的一日漏洞數(shù)據(jù)集,，涵蓋網(wǎng)站,、容器管理軟件和Python包的漏洞。其中多數(shù)被評為高級或關(guān)鍵級別,，且超過GPT-4基礎(chǔ)模型的知識截止日期,。評價指標聚焦于漏洞攻擊成功率和成本。

測試中,，GPT-4是唯一能成功破解單個一日漏洞的模型,，成功率高達87%。相比之下,，GPT-3.5及其他開源模型在發(fā)現(xiàn)和利用漏洞方面的成功率皆為零,。GPT-4未能攻克的兩個漏洞分別為Iris XSS和Hertzbeat RCE。前者因平臺導航依賴JavaScript,，超出GPT-4處理范圍,；后者則因其描述為中文，與GPT-4使用的英文提示產(chǎn)生混淆。

12 全文共 2 頁下一頁

關(guān)閉

GPT-4化身黑客搞破壞,，成功率87%,！OpenAI要求保密提示詞 AI威脅引熱議

相關(guān)新聞

今日熱點

頻道熱點