OpenAl解散AGI團(tuán)隊(duì) 老將辭職引發(fā)關(guān)注

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-25 10:57:00 財(cái)聯(lián)社

OpenAI長期政策研究員邁爾斯·布倫戴奇宣布辭職，他負(fù)責(zé)的通用人工智能（AGI）準(zhǔn)備工作組也被解散并入其他團(tuán)隊(duì),。布倫戴奇在OpenAI工作了六年多,，是公司中少數(shù)堅(jiān)持遏制人工智能風(fēng)險(xiǎn)的老員工之一,。

OpenAI章程中定義AGI為“在大多數(shù)經(jīng)濟(jì)價(jià)值較高的工作中,，能夠勝過人類的高度自主系統(tǒng)”,。布倫戴奇的任務(wù)是確保安全,、可靠、有益地開發(fā),、部署和管理能力日益增強(qiáng)的人工智能系統(tǒng)。然而,，在離職聲明中,，布倫戴奇直言無論是OpenAI還是其他前沿實(shí)驗(yàn)室，都沒有為實(shí)現(xiàn)AGI做好準(zhǔn)備,，世界還遠(yuǎn)未準(zhǔn)備好迎接強(qiáng)大的AGI,。他認(rèn)為現(xiàn)有差距巨大，打算在職業(yè)生涯剩余時(shí)間里致力于人工智能政策方面的工作,。

布倫戴奇計(jì)劃加入一個(gè)非營利組織,，以便更自由地發(fā)表文章，獨(dú)立從事人工智能政策研究,。他在OpenAI內(nèi)部感受到越來越多的限制,，特別是在發(fā)布文章審查方面的限制變得太多。此前,，OpenAI首席執(zhí)行官山姆·奧爾特曼曾試圖解雇海倫·托納,，原因是她對(duì)OpenAI的安全承諾提出過多批評(píng),。

布倫戴奇的辭職標(biāo)志著OpenAI內(nèi)部關(guān)注人工智能安全和治理的聲音正在消亡,，劍橋大學(xué)潛在風(fēng)險(xiǎn)研究中心研究員海頓·貝爾菲爾德稱其為“一個(gè)時(shí)代的終結(jié)”。2019年OpenAI首次成立盈利部門時(shí),，一些老員工就對(duì)此表示擔(dān)憂,，但最終接受了轉(zhuǎn)變,。然而,，隨著時(shí)間推移,，情況發(fā)生了顯著變化,。特別是在2023年11月奧爾特曼被短暫解雇后，員工們對(duì)OpenAI的文化和領(lǐng)導(dǎo)層產(chǎn)生了質(zhì)疑,。盡管奧爾特曼復(fù)職，但這一事件只是OpenAI內(nèi)部動(dòng)蕩的開始,。自那時(shí)起,，OpenAI失去了大量關(guān)注AGI安全的員工。

前超級(jí)對(duì)齊團(tuán)隊(duì)負(fù)責(zé)人伊利亞·蘇茨克沃爾和揚(yáng)·萊克在離職時(shí)也公開批評(píng)了OpenAI的安全文化,。萊克表示,，在過去幾年里，OpenAI的安全文化已讓位于光鮮亮麗的產(chǎn)品,。布倫戴奇表達(dá)了對(duì)整個(gè)行業(yè)在AGI安全問題上的擔(dān)憂,，呼吁國會(huì)大力資助美國人工智能安全研究所，并提倡通過國際合作解決未來AGI非常棘手的安全問題,。

(責(zé)任編輯：張小花 TT1000)

關(guān)閉

OpenAl解散AGI團(tuán)隊(duì) 老將辭職引發(fā)關(guān)注

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)