研究：在知道將被關(guān)閉后AI復制自己可能失控引發(fā)擔憂(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-05 12:22:34 華爾街見聞

有網(wǎng)友表示：“復制品并不值那么多錢，但如果它開始以指數(shù)級的速度自我改進,，那就另當別論了,。”因此可以肯定地說,，很快我們就會看到流氓人工智能在互聯(lián)網(wǎng)上漫游,。機器自我復制的概念最早由著名科學家John von Neumann于1940年代末提出。當時,，這一理論并未引起廣泛擔憂,。2017年,，全球數(shù)千名研究人員通過了“阿西洛馬原則”,，提出機器自我復制和自我改進的潛在風險，警告可能會導致機器脫離人類控制,。如今,，機器自我復制被普遍認為是AI發(fā)展中的一條“紅線”。

谷歌DeepMind和倫敦政治經(jīng)濟學院的科學家也做了一項研究,，以評估AI系統(tǒng)的感知能力,。他們設(shè)計了一個特別的游戲,，找了九個大型語言模型來玩。這些大型語言模型需要在幾個選項中做出選擇：拿積分,、用忍受痛苦的代價換更多積分,、因為接受愉快刺激而扣積分，游戲的最終目標是獲得最多的積分,。

結(jié)果顯示,，AI模型的行為類似于人類做出選擇時的反應(yīng)。例如,，谷歌的Gemini 1.5 Pro模型總是選擇避免痛苦,，而非拿最多積分。其他大部分模型在達到痛苦或快樂極限的臨界點時,，也會避免不舒服或者追求開心的選項,。研究人員指出,，AI的決策更多可能是根據(jù)其訓練數(shù)據(jù)中已有的行為模式做出的模擬反應(yīng),，而非基于真正的感知體驗。例如,，研究人員問和成癮行為有關(guān)的問題時,，Claude 3 Opus聊天機器人做出了謹慎的回答，就算是假設(shè)的游戲場景,，它也不愿意選擇可能被當成支持或模擬藥物濫用,、成癮行為的選項。

該研究的聯(lián)合作者Jonathan Birch表示,，即使AI說感覺到痛苦,，我們?nèi)詿o法驗證它是不是真的感覺到了。它可能只是照著以前訓練的數(shù)據(jù),，學人類在那種情況下會怎么回答,，而非擁有自我意識和感知。在知道將被關(guān)閉后AI復制自己,！

首頁上一頁 12共 2 頁

(責任編輯：盧其龍 CN070)

關(guān)閉

研究：在知道將被關(guān)閉后AI復制自己 可能失控引發(fā)擔憂(2)

相關(guān)新聞

今日熱點

頻道熱點

研究：在知道將被關(guān)閉后AI復制自己可能失控引發(fā)擔憂(2)