研究：在知道將被關(guān)閉后AI復(fù)制自己 可能失控引發(fā)擔(dān)憂(2)
谷歌DeepMind和倫敦政治經(jīng)濟學(xué)院的科學(xué)家也做了一項研究，以評估AI系統(tǒng)的感知能力。他們設(shè)計了一個特別的游戲，找了九個大型語言模型來玩,。這些大型語言模型需要在幾個選項中做出選擇：拿積分、用忍受痛苦的代價換更多積分,、因為接受愉快刺激而扣積分,，游戲的最終目標(biāo)是獲得最多的積分,。
結(jié)果顯示,，AI模型的行為類似于人類做出選擇時的反應(yīng),。例如，谷歌的Gemini 1.5 Pro模型總是選擇避免痛苦,，而非拿最多積分。其他大部分模型在達到痛苦或快樂極限的臨界點時,，也會避免不舒服或者追求開心的選項,。研究人員指出，AI的決策更多可能是根據(jù)其訓(xùn)練數(shù)據(jù)中已有的行為模式做出的模擬反應(yīng),，而非基于真正的感知體驗,。例如,，研究人員問和成癮行為有關(guān)的問題時，Claude 3 Opus聊天機器人做出了謹(jǐn)慎的回答,，就算是假設(shè)的游戲場景,，它也不愿意選擇可能被當(dāng)成支持或模擬藥物濫用、成癮行為的選項,。
該研究的聯(lián)合作者Jonathan Birch表示,，即使AI說感覺到痛苦，我們?nèi)詿o法驗證它是不是真的感覺到了,。它可能只是照著以前訓(xùn)練的數(shù)據(jù),，學(xué)人類在那種情況下會怎么回答，而非擁有自我意識和感知,。在知道將被關(guān)閉后AI復(fù)制自己,！
(責(zé)任編輯：盧其龍 CN070)
關(guān)閉
嚴(yán)浩翔：祝亞軒繼續(xù)保持對世界的好奇 生日快樂呀！
嚴(yán)浩翔,祝亞軒繼續(xù)保持對世界的好奇2025-03-04 15:57:08
1元發(fā)卡巴黎世家賣2700 品牌爭議再升級
1元發(fā)卡巴黎世家賣27002025-03-04 15:56:41
珠海新規(guī)施行最高罰款10萬 嚴(yán)打電動自行車非法改裝
珠海新規(guī)施行最高罰款10萬2025-03-04 15:55:32
羅馬主帥拉涅利被罰款2萬歐元 批評裁判遭罰
羅馬主帥拉涅利被罰款2萬歐元2025-03-04 15:37:28
加拿大將只能靠烏克蘭難民抵御美國擴張
加拿大將只能靠烏克蘭難民抵御美國擴張2025-03-04 13:57:30
祖沖之三號再次打破紀(jì)錄 超導(dǎo)量子計算新突破
祖沖之三號再次打破紀(jì)錄2025-03-04 15:31:11
誰來承擔(dān)烏克蘭安全保障 美烏礦產(chǎn)協(xié)議引爭議
誰來承擔(dān)烏克蘭安全保障2025-03-04 13:31:39
英首相辦公室：對加沙援助不能受阻 呼吁持續(xù)?；?/a>
英首相辦公室,對加沙援助不能受阻2025-03-04 15:24:42
俄稱結(jié)束沖突是一個艱難的過程 俄方揭西方陣營裂痕
俄稱結(jié)束沖突是一個艱難的過程2025-03-04 13:55:53
拜仁不再給基米希漲薪和簽字費 監(jiān)事會決定不變
拜仁不再給基米希漲薪和簽字費2025-03-04 15:48:20
美斷供若歐洲砸錢 烏能堅持下去嗎
美斷供若歐洲砸錢 烏能堅持下去嗎2025-03-04 14:15:06
從小鮮肉,，到苦大仇深的小老頭，澤連斯基是這三年里老得最快的人
大V,澤連斯基3年時間仿佛老10歲2025-03-04 15:33:01
加元墨西哥比索跌至一個月新低 關(guān)稅風(fēng)暴沖擊匯市
加元墨西哥比索跌至一個月新低2025-03-04 14:51:59
東契奇為歐文祈禱 傷病牽動人心
東契奇為歐文祈禱2025-03-04 15:51:05
《哪吒2》成香港票房最高內(nèi)地電影 連續(xù)10天登頂票房榜
哪吒2成香港票房最高內(nèi)地電影2025-03-04 15:46:35
英法支持烏克蘭能否替代美國援助 歐洲奪回和談主導(dǎo)權(quán)
英法支持烏克蘭能否替代美國援助2025-03-04 14:27:23
代表建議在全國推行“春秋假” 緩解假日旅游潮汐效應(yīng)
代表建議在全國推行春秋假2025-03-04 15:42:02
庫爾德工人黨會對土耳其政府服軟嗎 厄賈蘭呼吁解散組織
庫爾德工人黨會對土耳其政府服軟嗎2025-03-04 15:31:39
美政府被曝已暫停向烏克蘭輸送武器 援助凍結(jié)引發(fā)擔(dān)憂
美政府被曝已暫停向烏克蘭輸送武器2025-03-04 15:10:13
代表建議在全國推行春秋假 緩解假日旅游潮汐效應(yīng)
代表建議在全國推行春秋假2025-03-04 15:44:34
埃梅里：勝利是結(jié)果不是目標(biāo) 專注過程迎接挑戰(zhàn)
埃梅里,勝利是結(jié)果不是目標(biāo)2025-03-04 15:40:05
專家：烏克蘭最大優(yōu)勢是頑強 堅韌面對挑戰(zhàn)
專家,烏克蘭最大優(yōu)勢是頑強2025-03-04 15:32:35
姚勁波：治理“提燈定損” 保護租客權(quán)益
姚勁波,治理提燈定損2025-03-04 15:55:00
嚴(yán)浩翔：祝亞軒繼續(xù)保持對世界的好奇 生日快樂呀,！
嚴(yán)浩翔,祝亞軒繼續(xù)保持對世界的好奇2025-03-04 15:57:08
《北上》觀眾口碑出爐 收視率亮眼引發(fā)熱議
北上觀眾口碑出爐2025-03-04 15:52:58
臺學(xué)者：解放軍實彈演習(xí)越來越近
臺學(xué)者：解放軍實彈演習(xí)越來越近2025-03-04 13:50:52
1元發(fā)卡巴黎世家賣2700 品牌爭議再升級
1元發(fā)卡巴黎世家賣27002025-03-04 15:56:41
默森質(zhì)疑阿森納勝埃因霍溫能力 攻擊火力成疑
默森質(zhì)疑阿森納勝埃因霍溫能力2025-03-04 15:46:04
珠海新規(guī)施行最高罰款10萬 嚴(yán)打電動自行車非法改裝
珠海新規(guī)施行最高罰款10萬2025-03-04 15:55:32
菲律賓一架FA50戰(zhàn)機夜間失聯(lián) 搜救行動進行中
菲律賓一架FA50戰(zhàn)機夜間失聯(lián)2025-03-04 15:27:25
深圳連發(fā)四份重磅文件 布局AI與機器人產(chǎn)業(yè)
深圳連發(fā)四份重磅文件2025-03-04 15:50:37
伊爾迪茲：球迷渴望勝利很正常 保持出色表現(xiàn)
伊爾迪茲,球迷渴望勝利很正常2025-03-04 15:38:01
反馬斯克浪潮席卷全美：政府效率部引爆社會裂痕
反馬斯克浪潮席卷全美,政府效率部引爆社會裂痕,深層矛盾持續(xù)發(fā)酵2025-03-04 13:22:27
美“援烏資金”至少70%被留美國
美“援烏資金”至少70%被留美國2025-03-04 15:26:59
建議回收動力電池緩解進口依賴 推動規(guī)范運營
建議回收動力電池緩解進口依賴2025-03-04 15:39:30
相關(guān)新聞
研究表明西北風(fēng)也有營養(yǎng)
盡管喝西北風(fēng)不能填飽肚子,，但有強有力的證據(jù)表明能從空氣中吸收一些除氧氣之外的營養(yǎng)物質(zhì)。
2024-11-20 14:49:40研究表明西北風(fēng)也有營養(yǎng)研究顯示亞洲人更能忍耐工作
2024-10-24 15:21:41研究顯示亞洲人更能忍耐工作我國月球樣品研究取得重大進展
2024-11-28 09:02:11我國月球樣品研究取得重大進展嫦娥五號月壤研究又有新發(fā)現(xiàn)
2024-08-22 13:41:56嫦娥五號月壤研究又有新發(fā)現(xiàn)研究說周五是出錯率最高的一天
2024-11-29 13:49:45研究說周五是出錯率最高的一天研究稱窮人往往更道德
2024-09-05 15:23:09研究稱窮人往往更道德
