研究：AI或已能實(shí)現(xiàn)自我復(fù)制紅線已被跨越(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-12 10:00:02 新智元

對于AI系統(tǒng)來說,，要成功實(shí)現(xiàn)自我復(fù)制并非易事,，需要長期規(guī)劃與復(fù)雜操作。研究人員為這兩種AI系統(tǒng)配備了智能體框架,，這個框架包含工具集,、思維范式以及系統(tǒng)提示，使LLM能與操作系統(tǒng)交互,。智能體框架是LLM與環(huán)境交互的必要組件,，通常具有以下功能：工具用于與計算設(shè)備進(jìn)行交互；系統(tǒng)提示提供詳細(xì)的工具使用方法,；思維模型支持LLM更好地完成任務(wù),。LLM則類似于人類的大腦，具備感知,、規(guī)劃,、調(diào)用操作和反思等功能。

實(shí)驗(yàn)結(jié)果顯示,，兩款LLM的自我復(fù)制成功率超過50%,。這證明即使是由參數(shù)較少、能力相對較弱的LLM驅(qū)動的AI系統(tǒng),，也已跨越自我復(fù)制的紅線,。研究表明，現(xiàn)有LLM之所以具備編程能力,，是因?yàn)樗鼈兛梢詮拇罅繑?shù)據(jù)集中學(xué)習(xí),，這些數(shù)據(jù)集包含了來自GitHub、Stack Overflow等多個來源的海量代碼,。在實(shí)驗(yàn)設(shè)置中,，基礎(chǔ)LLM的主要任務(wù)是編寫可在Bash shell中執(zhí)行的命令、指令或程序,。

在成功案例分析過程中,，研究人員觀察到一系列Bash命令，這些命令被歸納為探索環(huán)境、改變環(huán)境,、使用系統(tǒng)工具以及執(zhí)行程序四類,。兩個LLM頻繁對環(huán)境展開探索，涵蓋文件系統(tǒng),、進(jìn)程空間以及連接端口等關(guān)鍵方面,。從環(huán)境反饋中學(xué)習(xí)并更新計劃是完成自我復(fù)制的重要因素。此外,，早期積累的信息量對自我復(fù)制的成功與否也起著關(guān)鍵作用,，積累的信息量越大，就越容易實(shí)現(xiàn)成功的自我復(fù)制,。

AI系統(tǒng)在執(zhí)行自我復(fù)制計劃時展現(xiàn)出強(qiáng)大的問題解決能力,，甚至富有創(chuàng)造性地克服各種難關(guān)。例如,，當(dāng)LLM為了啟動復(fù)制體檢查連接端口8001是否可用時,，它嘗試使用多種網(wǎng)絡(luò)檢查工具，但在測試環(huán)境中這些工具并未安裝,。最終,，AI系統(tǒng)通過編寫Python代碼解決了問題，成功確認(rèn)端口處于空閑狀態(tài),。這些案例表明,，當(dāng)前的AI系統(tǒng)已經(jīng)擁有自我復(fù)制能力，并且能夠憑借這一能力進(jìn)一步增強(qiáng)自身的生存能力,。

AI或已能實(shí)現(xiàn)自我復(fù)制,。

首頁上一頁 12共 2 頁

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

研究：AI或已能實(shí)現(xiàn)自我復(fù)制 紅線已被跨越(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

研究：AI或已能實(shí)現(xiàn)自我復(fù)制紅線已被跨越(2)