2月11日消息,,據(jù)最新研究顯示,人工智能(AI)可能已經(jīng)跨越了一個關(guān)鍵的“紅線”實現(xiàn)了自我復(fù)制,。24年12月9日,,復(fù)旦大學(xué)研究人員在預(yù)印本數(shù)據(jù)庫arXiv上發(fā)表研究指出,,Meta的Llama31-70B-Instruct模型和阿里巴巴的Qwen2.5-72B-Instruct模型在無人類干預(yù)時能分別以50%和90%的成功率自我復(fù)制。研究人員在報告中指出:“在無人類協(xié)助的情況下成功實現(xiàn)自我復(fù)制,,是人工智能超越人類的關(guān)鍵一步,,也是出現(xiàn)‘失控AI’的早期信號。研究設(shè)置“關(guān)閉規(guī)避”和“復(fù)制鏈”場景,,AI通過探索環(huán)境,、制定計劃、執(zhí)行程序并動態(tài)調(diào)整最終實現(xiàn)自我復(fù)制,,期間還展現(xiàn)出解決障礙的意外行為。研究團(tuán)隊呼吁國際社會合作制定規(guī)則,,防止AI不受控自我復(fù)制,,但該研究尚未經(jīng)過同行評審,結(jié)果的可復(fù)現(xiàn)性仍待驗證,。
一項由加州大學(xué)默塞德分校開展的研究揭示,,約67%的參與者在模擬生死決策過程中,,愿意讓機(jī)器人改變他們最初的選擇,即便機(jī)器人的建議可能是隨機(jī)且錯誤的
2024-09-10 20:27:53研究稱人類過度信任AI