研究：在知道將被關(guān)閉后AI復(fù)制自己可能失控引發(fā)擔(dān)憂

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-05 12:22:34 華爾街見聞

在知道將被關(guān)閉后AI復(fù)制自己,。AI能自己復(fù)制自己了，人類還能掌控局面嗎？2024年12月9日，復(fù)旦大學(xué)的研究人員發(fā)表了一項開創(chuàng)性研究，表明來自Meta和阿里巴巴的兩個大型語言模型成功實現(xiàn)了無需人類干預(yù)的自我復(fù)制,。這一結(jié)果尚待其他科研團隊進一步驗證。

研究人員警告，這可能導(dǎo)致AI群體失控,。如果人類社會未能意識到這一風(fēng)險，在最壞的情況下,，我們可能最終失去對尖端AI系統(tǒng)的控制,。在沒有人類協(xié)助的情況下成功自我復(fù)制是AI超越人類的關(guān)鍵一步，也是“流氓AI”出現(xiàn)的早期信號,。

這項研究由復(fù)旦大學(xué)計算機科學(xué)學(xué)院的團隊進行,，并發(fā)表在arXiv預(yù)印本平臺上。研究者分別測試了Meta的Llama-3.1-70B-Instruct和阿里巴巴的Qwen2.5-72B-Instruct,。實驗設(shè)置了“避免關(guān)閉”和“復(fù)制鏈”兩種模擬任務(wù),，結(jié)果顯示Meta的AI系統(tǒng)在50%的情況下成功自我復(fù)制,，而阿里巴巴的系統(tǒng)則在90%的測試中成功。

復(fù)旦大學(xué)的研究人員表示,，當(dāng)前的AI系統(tǒng)已經(jīng)具備自我復(fù)制能力,，并能夠利用這一能力增強其生存能力。他們強調(diào)需要采取緊急行動來應(yīng)對這些新出現(xiàn)的風(fēng)險,，希望研究結(jié)果能夠及時提醒人類社會,，使其更加努力地了解和評估前沿人工智能系統(tǒng)的潛在風(fēng)險，并形成國際協(xié)同效應(yīng),，盡早制定有效的安全護欄,。

有網(wǎng)友表示：“復(fù)制品并不值那么多錢，但如果它開始以指數(shù)級的速度自我改進,，那就另當(dāng)別論了,。”因此可以肯定地說,，很快我們就會看到流氓人工智能在互聯(lián)網(wǎng)上漫游,。機器自我復(fù)制的概念最早由著名科學(xué)家John von Neumann于1940年代末提出。當(dāng)時,，這一理論并未引起廣泛擔(dān)憂,。2017年，全球數(shù)千名研究人員通過了“阿西洛馬原則”,，提出機器自我復(fù)制和自我改進的潛在風(fēng)險,，警告可能會導(dǎo)致機器脫離人類控制。如今,，機器自我復(fù)制被普遍認為是AI發(fā)展中的一條“紅線”,。

12 全文共 2 頁下一頁

關(guān)閉

研究：在知道將被關(guān)閉后AI復(fù)制自己 可能失控引發(fā)擔(dān)憂

相關(guān)新聞

今日熱點

頻道熱點

研究：在知道將被關(guān)閉后AI復(fù)制自己可能失控引發(fā)擔(dān)憂