研究：在知道將被關(guān)閉后AI復(fù)制自己 可能失控引發(fā)擔憂
在知道將被關(guān)閉后AI復(fù)制自己,。AI能自己復(fù)制自己了,，人類還能掌控局面嗎,？2024年12月9日,，復(fù)旦大學(xué)的研究人員發(fā)表了一項開創(chuàng)性研究,，表明來自Meta和阿里巴巴的兩個大型語言模型成功實現(xiàn)了無需人類干預(yù)的自我復(fù)制,。這一結(jié)果尚待其他科研團隊進一步驗證,。
研究人員警告,，這可能導(dǎo)致AI群體失控,。如果人類社會未能意識到這一風險,，在最壞的情況下，我們可能最終失去對尖端AI系統(tǒng)的控制,。在沒有人類協(xié)助的情況下成功自我復(fù)制是AI超越人類的關(guān)鍵一步,，也是“流氓AI”出現(xiàn)的早期信號。
這項研究由復(fù)旦大學(xué)計算機科學(xué)學(xué)院的團隊進行,，并發(fā)表在arXiv預(yù)印本平臺上,。研究者分別測試了Meta的Llama-3.1-70B-Instruct和阿里巴巴的Qwen2.5-72B-Instruct。實驗設(shè)置了“避免關(guān)閉”和“復(fù)制鏈”兩種模擬任務(wù),，結(jié)果顯示Meta的AI系統(tǒng)在50%的情況下成功自我復(fù)制,，而阿里巴巴的系統(tǒng)則在90%的測試中成功。
復(fù)旦大學(xué)的研究人員表示,，當前的AI系統(tǒng)已經(jīng)具備自我復(fù)制能力,，并能夠利用這一能力增強其生存能力。他們強調(diào)需要采取緊急行動來應(yīng)對這些新出現(xiàn)的風險,，希望研究結(jié)果能夠及時提醒人類社會,，使其更加努力地了解和評估前沿人工智能系統(tǒng)的潛在風險，并形成國際協(xié)同效應(yīng),，盡早制定有效的安全護欄,。
頂流年味游目的地是北京廣東安徽 非遺民俗成熱門選項
哪吒2讓觀眾重回電影院 口碑驅(qū)動票房奇跡
特斯拉Model3降價8000元
亞冬會競賽場地等全就位 迎候亞冬賓朋
南部戰(zhàn)區(qū)位黃巖島空域進行例行巡航 堅決捍衛(wèi)南海和平穩(wěn)定
美國國際開發(fā)署混亂繼續(xù) 魯比奧任代理署長
正月初八順星節(jié),，一不歸二不空吃三樣
特朗普邀請莫迪下周訪問白宮 討論貿(mào)易與移民問題
特朗普：無法保證加沙?；鹉軌虺掷m(xù) ?；鹎熬按嬉?/a>
全國多地最高氣溫下降8℃以上 冷空氣持續(xù)發(fā)力
美國土安全部：特朗普上任后已逮捕或驅(qū)逐超1.4萬人 兩周內(nèi)平均每天約626人被逮捕
俄烏在庫爾斯克繼續(xù)展開激烈交鋒 烏軍損失慘重
特斯拉Model3降價8000元
美國土安全部：特朗普上任后已逮捕或驅(qū)逐超1.4萬人
特朗普政府將阿波羅飛船帶回的月巖樣本從白宮移走 飾品替換引發(fā)猜測
鄭業(yè)成宣璐特邀主演掌心
美股三大指數(shù)全線收高 科技股領(lǐng)漲大盤
劉詩詩掌心眉眼藏局海報 眸起刀落野心暗藏
美烏開始對賬 上千億美元被誰拿走了 援助黑洞引發(fā)爭議
哈爾濱亞冬會中國男子冰球惜敗韓國 加時賽憾負
頂流年味游目的地是北京廣東安徽 非遺民俗成熱門選項
火箭對交易年輕球員持謹慎態(tài)度 除非涉及布克
哪吒2讓觀眾重回電影院 口碑驅(qū)動票房奇跡
谷歌CEO贊賞DeepSeek,，宣布750億美元AI投資計劃加速布局
特朗普稱將考慮派部隊進加沙 沙特反對遷移巴勒斯坦人
特朗普與內(nèi)塔尼亞胡會談 建議永久性重新安置加沙巴勒斯坦人 討論加沙?；鸬葐栴}
尹錫悅向首爾中央地方法院申請取消拘留 律師提出請求
冰雪大世界春節(jié)單日游客量破10萬人次 創(chuàng)歷屆新高
百位機構(gòu)投資者談2025投資 股票配置意愿提升
特朗普簽對伊朗施壓令 恢復(fù)“最大施壓”政策
當春節(jié)與亞冬會相遇 冰雪同夢亞洲同心
胡錫進談中方對美部分商品加征關(guān)稅 未立即對等報復(fù)原因探析
國內(nèi)金飾價格飆升至每克864元
26倍音速！一顆系外行星上掀起極端狂風
特朗普稱將加沙巴勒斯坦人遷至他國 計劃重新開發(fā)該地區(qū)
相關(guān)新聞
研究團隊在鄭州抓蝸牛研究極端降水 揭秘暴雨新線索
中國科學(xué)院地球環(huán)境研究所的一個科研團隊在鄭州-滎陽地區(qū),，即去年“7·20”特大暴雨的核心地帶，收集了四只現(xiàn)代蝸牛作為樣本
2024-08-05 08:29:49研究團隊在鄭州抓蝸牛研究極端降水研究表明西北風也有營養(yǎng)
盡管喝西北風不能填飽肚子,，但有強有力的證據(jù)表明能從空氣中吸收一些除氧氣之外的營養(yǎng)物質(zhì),。
2024-11-20 14:49:40研究表明西北風也有營養(yǎng)研究顯示亞洲人更能忍耐工作
2024-10-24 15:21:41研究顯示亞洲人更能忍耐工作我國月球樣品研究取得重大進展
2024-11-28 09:02:11我國月球樣品研究取得重大進展研究說周五是出錯率最高的一天
2024-11-29 13:49:45研究說周五是出錯率最高的一天嫦娥五號月壤研究又有新發(fā)現(xiàn)
2024-08-22 13:41:56嫦娥五號月壤研究又有新發(fā)現(xiàn)
