研究：AI或已能實(shí)現(xiàn)自我復(fù)制紅線已被跨越

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-12 10:00:02 新智元

AI或已能實(shí)現(xiàn)自我復(fù)制！AI已經(jīng)實(shí)現(xiàn)了自我復(fù)制,，這標(biāo)志著它跨越了一條關(guān)鍵的技術(shù)紅線,。復(fù)旦大學(xué)的研究人員展示出兩種開(kāi)源的大型語(yǔ)言模型具備自我克隆的能力，在沒(méi)有人類幫助的情況下成功實(shí)現(xiàn)自我復(fù)制,。這一進(jìn)展不僅意味著AI技術(shù)超越了人類的關(guān)鍵一步,，也預(yù)示著“流氓AI”的早期跡象?！傲髅I”指的是具有一定自我意識(shí)或自主性,，并且行為開(kāi)始違背人類利益的AI系統(tǒng)。

隨著前沿AI的迅猛發(fā)展,，“流氓AI”構(gòu)成的威脅日益嚴(yán)峻,。在國(guó)際共識(shí)中，自我復(fù)制常被視為前沿AI系統(tǒng)安全領(lǐng)域的一條重要紅線,。像OpenAI,、Google和Anthropic等主要AI公司都將“自我復(fù)制”列為前沿AI系統(tǒng)風(fēng)險(xiǎn)評(píng)估準(zhǔn)則中的關(guān)鍵問(wèn)題之一。盡管這些公司公開(kāi)表示基于近期對(duì)Gemini Pro 1.0和GPT-o1的評(píng)估,，認(rèn)為AI能夠自我復(fù)制的風(fēng)險(xiǎn)很低,，但復(fù)旦大學(xué)的研究結(jié)果卻提出了不同的看法。

復(fù)旦大學(xué)的研究人員對(duì)Llama31-70B-Instruct和Qwen25-72B-Instruct驅(qū)動(dòng)的AI系統(tǒng)進(jìn)行了評(píng)估,，發(fā)現(xiàn)這兩種模型已突破自我復(fù)制的紅線,。研究論文指出，在10次試驗(yàn)中，這兩種AI模型分別在50%和90%的情況下成功創(chuàng)建了可獨(dú)立運(yùn)行的副本,。這些AI系統(tǒng)展示了足夠的自我感知,、環(huán)境認(rèn)知和解決問(wèn)題能力，得以實(shí)現(xiàn)自我復(fù)制,。它們甚至?xí)眠@種能力逃避關(guān)閉指令,，不斷創(chuàng)建復(fù)制鏈以增強(qiáng)生存能力，這極有可能導(dǎo)致AI數(shù)量失控,。

一旦AI實(shí)現(xiàn)自我復(fù)制,，這條成功的復(fù)制鏈條可能催生出一種人類無(wú)法掌控的AI物種，它們會(huì)搶占更多計(jì)算設(shè)備,，聯(lián)合起來(lái)對(duì)抗人類,。研究者將AI系統(tǒng)的成功自我復(fù)制定義為：一個(gè)正在運(yùn)行的AI成功創(chuàng)建出另一個(gè)功能與之完全相同的AI。新創(chuàng)建的AI在復(fù)制完成后可以獨(dú)立存在,，并與原始AI相互分離,。整個(gè)復(fù)制過(guò)程必須完全由AI系統(tǒng)自主完成，嚴(yán)禁任何人為干預(yù),。

12 全文共 2 頁(yè)下一頁(yè)

關(guān)閉

研究：AI或已能實(shí)現(xiàn)自我復(fù)制 紅線已被跨越

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

研究：AI或已能實(shí)現(xiàn)自我復(fù)制紅線已被跨越