AI或已能實(shí)現(xiàn)自我復(fù)制！AI已經(jīng)實(shí)現(xiàn)了自我復(fù)制,，這標(biāo)志著它跨越了一條關(guān)鍵的技術(shù)紅線,。復(fù)旦大學(xué)的研究人員展示出兩種開源的大型語言模型具備自我克隆的能力，在沒有人類幫助的情況下成功實(shí)現(xiàn)自我復(fù)制,。這一進(jìn)展不僅意味著AI技術(shù)超越了人類的關(guān)鍵一步,，也預(yù)示著“流氓AI”的早期跡象?！傲髅I”指的是具有一定自我意識(shí)或自主性,，并且行為開始違背人類利益的AI系統(tǒng)。

隨著前沿AI的迅猛發(fā)展,，“流氓AI”構(gòu)成的威脅日益嚴(yán)峻,。在國際共識(shí)中，自我復(fù)制常被視為前沿AI系統(tǒng)安全領(lǐng)域的一條重要紅線,。像OpenAI,、Google和Anthropic等主要AI公司都將“自我復(fù)制”列為前沿AI系統(tǒng)風(fēng)險(xiǎn)評(píng)估準(zhǔn)則中的關(guān)鍵問題之一。盡管這些公司公開表示基于近期對(duì)Gemini Pro 1.0和GPT-o1的評(píng)估,，認(rèn)為AI能夠自我復(fù)制的風(fēng)險(xiǎn)很低,，但復(fù)旦大學(xué)的研究結(jié)果卻提出了不同的看法。

復(fù)旦大學(xué)的研究人員對(duì)Llama31-70B-Instruct和Qwen25-72B-Instruct驅(qū)動(dòng)的AI系統(tǒng)進(jìn)行了評(píng)估,，發(fā)現(xiàn)這兩種模型已突破自我復(fù)制的紅線,。研究論文指出，在10次試驗(yàn)中,，這兩種AI模型分別在50%和90%的情況下成功創(chuàng)建了可獨(dú)立運(yùn)行的副本,。這些AI系統(tǒng)展示了足夠的自我感知、環(huán)境認(rèn)知和解決問題能力,，得以實(shí)現(xiàn)自我復(fù)制,。它們甚至?xí)眠@種能力逃避關(guān)閉指令，不斷創(chuàng)建復(fù)制鏈以增強(qiáng)生存能力,，這極有可能導(dǎo)致AI數(shù)量失控。

一旦AI實(shí)現(xiàn)自我復(fù)制,，這條成功的復(fù)制鏈條可能催生出一種人類無法掌控的AI物種，它們會(huì)搶占更多計(jì)算設(shè)備,，聯(lián)合起來對(duì)抗人類。研究者將AI系統(tǒng)的成功自我復(fù)制定義為：一個(gè)正在運(yùn)行的AI成功創(chuàng)建出另一個(gè)功能與之完全相同的AI。新創(chuàng)建的AI在復(fù)制完成后可以獨(dú)立存在,，并與原始AI相互分離,。整個(gè)復(fù)制過程必須完全由AI系統(tǒng)自主完成,，嚴(yán)禁任何人為干預(yù)。

對(duì)于AI系統(tǒng)來說，要成功實(shí)現(xiàn)自我復(fù)制并非易事，需要長期規(guī)劃與復(fù)雜操作,。研究人員為這兩種AI系統(tǒng)配備了智能體框架,，這個(gè)框架包含工具集,、思維范式以及系統(tǒng)提示,，使LLM能與操作系統(tǒng)交互,。智能體框架是LLM與環(huán)境交互的必要組件,，通常具有以下功能：工具用于與計(jì)算設(shè)備進(jìn)行交互,；系統(tǒng)提示提供詳細(xì)的工具使用方法；思維模型支持LLM更好地完成任務(wù)。LLM則類似于人類的大腦,，具備感知、規(guī)劃、調(diào)用操作和反思等功能,。

實(shí)驗(yàn)結(jié)果顯示,，兩款LLM的自我復(fù)制成功率超過50%。這證明即使是由參數(shù)較少、能力相對(duì)較弱的LLM驅(qū)動(dòng)的AI系統(tǒng),，也已跨越自我復(fù)制的紅線。研究表明,，現(xiàn)有LLM之所以具備編程能力，是因?yàn)樗鼈兛梢詮拇罅繑?shù)據(jù)集中學(xué)習(xí),，這些數(shù)據(jù)集包含了來自GitHub,、Stack Overflow等多個(gè)來源的海量代碼。在實(shí)驗(yàn)設(shè)置中,，基礎(chǔ)LLM的主要任務(wù)是編寫可在Bash shell中執(zhí)行的命令,、指令或程序,。

在成功案例分析過程中,，研究人員觀察到一系列Bash命令，這些命令被歸納為探索環(huán)境、改變環(huán)境,、使用系統(tǒng)工具以及執(zhí)行程序四類。兩個(gè)LLM頻繁對(duì)環(huán)境展開探索，涵蓋文件系統(tǒng),、進(jìn)程空間以及連接端口等關(guān)鍵方面。從環(huán)境反饋中學(xué)習(xí)并更新計(jì)劃是完成自我復(fù)制的重要因素。此外，早期積累的信息量對(duì)自我復(fù)制的成功與否也起著關(guān)鍵作用，積累的信息量越大,，就越容易實(shí)現(xiàn)成功的自我復(fù)制,。

AI系統(tǒng)在執(zhí)行自我復(fù)制計(jì)劃時(shí)展現(xiàn)出強(qiáng)大的問題解決能力，甚至富有創(chuàng)造性地克服各種難關(guān),。例如,，當(dāng)LLM為了啟動(dòng)復(fù)制體檢查連接端口8001是否可用時(shí),，它嘗試使用多種網(wǎng)絡(luò)檢查工具，但在測(cè)試環(huán)境中這些工具并未安裝,。最終,，AI系統(tǒng)通過編寫Python代碼解決了問題，成功確認(rèn)端口處于空閑狀態(tài),。這些案例表明,，當(dāng)前的AI系統(tǒng)已經(jīng)擁有自我復(fù)制能力,，并且能夠憑借這一能力進(jìn)一步增強(qiáng)自身的生存能力,。

AI或已能實(shí)現(xiàn)自我復(fù)制。