OpenAl解散AGI團隊老將辭職引發(fā)關(guān)注

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-25 10:57:00 財聯(lián)社

OpenAI長期政策研究員邁爾斯·布倫戴奇宣布辭職,，他負(fù)責(zé)的通用人工智能（AGI）準(zhǔn)備工作組也被解散并入其他團隊,。布倫戴奇在OpenAI工作了六年多，是公司中少數(shù)堅持遏制人工智能風(fēng)險的老員工之一,。

OpenAI章程中定義AGI為“在大多數(shù)經(jīng)濟價值較高的工作中,，能夠勝過人類的高度自主系統(tǒng)”,。布倫戴奇的任務(wù)是確保安全、可靠,、有益地開發(fā),、部署和管理能力日益增強的人工智能系統(tǒng)。然而,，在離職聲明中,，布倫戴奇直言無論是OpenAI還是其他前沿實驗室，都沒有為實現(xiàn)AGI做好準(zhǔn)備,，世界還遠(yuǎn)未準(zhǔn)備好迎接強大的AGI,。他認(rèn)為現(xiàn)有差距巨大，打算在職業(yè)生涯剩余時間里致力于人工智能政策方面的工作,。

布倫戴奇計劃加入一個非營利組織,，以便更自由地發(fā)表文章，獨立從事人工智能政策研究,。他在OpenAI內(nèi)部感受到越來越多的限制,，特別是在發(fā)布文章審查方面的限制變得太多。此前,，OpenAI首席執(zhí)行官山姆·奧爾特曼曾試圖解雇海倫·托納,，原因是她對OpenAI的安全承諾提出過多批評。

布倫戴奇的辭職標(biāo)志著OpenAI內(nèi)部關(guān)注人工智能安全和治理的聲音正在消亡,，劍橋大學(xué)潛在風(fēng)險研究中心研究員海頓·貝爾菲爾德稱其為“一個時代的終結(jié)”,。2019年OpenAI首次成立盈利部門時，一些老員工就對此表示擔(dān)憂,，但最終接受了轉(zhuǎn)變,。然而，隨著時間推移,，情況發(fā)生了顯著變化,。特別是在2023年11月奧爾特曼被短暫解雇后，員工們對OpenAI的文化和領(lǐng)導(dǎo)層產(chǎn)生了質(zhì)疑,。盡管奧爾特曼復(fù)職,，但這一事件只是OpenAI內(nèi)部動蕩的開始,。自那時起，OpenAI失去了大量關(guān)注AGI安全的員工,。

前超級對齊團隊負(fù)責(zé)人伊利亞·蘇茨克沃爾和揚·萊克在離職時也公開批評了OpenAI的安全文化,。萊克表示，在過去幾年里,，OpenAI的安全文化已讓位于光鮮亮麗的產(chǎn)品,。布倫戴奇表達了對整個行業(yè)在AGI安全問題上的擔(dān)憂，呼吁國會大力資助美國人工智能安全研究所,，并提倡通過國際合作解決未來AGI非常棘手的安全問題,。

(責(zé)任編輯：張小花 TT1000)

關(guān)閉

OpenAl解散AGI團隊 老將辭職引發(fā)關(guān)注

相關(guān)新聞

今日熱點

頻道熱點

OpenAl解散AGI團隊老將辭職引發(fā)關(guān)注