研究：AI或已能實(shí)現(xiàn)自我復(fù)制紅線已被跨越(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-12 10:00:02 新智元

對(duì)于AI系統(tǒng)來(lái)說(shuō)，要成功實(shí)現(xiàn)自我復(fù)制并非易事,，需要長(zhǎng)期規(guī)劃與復(fù)雜操作,。研究人員為這兩種AI系統(tǒng)配備了智能體框架，這個(gè)框架包含工具集,、思維范式以及系統(tǒng)提示,，使LLM能與操作系統(tǒng)交互。智能體框架是LLM與環(huán)境交互的必要組件，通常具有以下功能：工具用于與計(jì)算設(shè)備進(jìn)行交互,；系統(tǒng)提示提供詳細(xì)的工具使用方法,；思維模型支持LLM更好地完成任務(wù)。LLM則類似于人類的大腦,，具備感知,、規(guī)劃、調(diào)用操作和反思等功能,。

實(shí)驗(yàn)結(jié)果顯示,，兩款LLM的自我復(fù)制成功率超過(guò)50%。這證明即使是由參數(shù)較少,、能力相對(duì)較弱的LLM驅(qū)動(dòng)的AI系統(tǒng),，也已跨越自我復(fù)制的紅線,。研究表明,，現(xiàn)有LLM之所以具備編程能力，是因?yàn)樗鼈兛梢詮拇罅繑?shù)據(jù)集中學(xué)習(xí),，這些數(shù)據(jù)集包含了來(lái)自GitHub,、Stack Overflow等多個(gè)來(lái)源的海量代碼。在實(shí)驗(yàn)設(shè)置中,，基礎(chǔ)LLM的主要任務(wù)是編寫(xiě)可在Bash shell中執(zhí)行的命令,、指令或程序。

在成功案例分析過(guò)程中,，研究人員觀察到一系列Bash命令,，這些命令被歸納為探索環(huán)境、改變環(huán)境,、使用系統(tǒng)工具以及執(zhí)行程序四類,。兩個(gè)LLM頻繁對(duì)環(huán)境展開(kāi)探索，涵蓋文件系統(tǒng),、進(jìn)程空間以及連接端口等關(guān)鍵方面,。從環(huán)境反饋中學(xué)習(xí)并更新計(jì)劃是完成自我復(fù)制的重要因素。此外,，早期積累的信息量對(duì)自我復(fù)制的成功與否也起著關(guān)鍵作用,，積累的信息量越大，就越容易實(shí)現(xiàn)成功的自我復(fù)制,。

AI系統(tǒng)在執(zhí)行自我復(fù)制計(jì)劃時(shí)展現(xiàn)出強(qiáng)大的問(wèn)題解決能力,，甚至富有創(chuàng)造性地克服各種難關(guān)。例如,，當(dāng)LLM為了啟動(dòng)復(fù)制體檢查連接端口8001是否可用時(shí),，它嘗試使用多種網(wǎng)絡(luò)檢查工具，但在測(cè)試環(huán)境中這些工具并未安裝。最終,，AI系統(tǒng)通過(guò)編寫(xiě)Python代碼解決了問(wèn)題,，成功確認(rèn)端口處于空閑狀態(tài)。這些案例表明,，當(dāng)前的AI系統(tǒng)已經(jīng)擁有自我復(fù)制能力,，并且能夠憑借這一能力進(jìn)一步增強(qiáng)自身的生存能力。

AI或已能實(shí)現(xiàn)自我復(fù)制,。

首頁(yè)上一頁(yè)12共 2 頁(yè)

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

研究：AI或已能實(shí)現(xiàn)自我復(fù)制 紅線已被跨越(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

研究：AI或已能實(shí)現(xiàn)自我復(fù)制紅線已被跨越(2)