馬斯克呼吁停訓(xùn)AI系統(tǒng) 稱可能導(dǎo)致核戰(zhàn)爭和更嚴(yán)重的疫情

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-03-29 16:18:22 澎湃新聞

馬斯克等1000名科技人士，日前簽署了一封特殊的公開信。

據(jù)未來生命研究所（Future of Life Institute）網(wǎng)站披露,，該網(wǎng)站曾以公開信的方式發(fā)起倡議,，呼吁所有AI（人工智能）實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。截至北京時(shí)間3月29日下午13時(shí)許,，在該網(wǎng)站上,，這封公開信獲得了包括馬斯克在內(nèi)的1126名人士的聯(lián)名簽署。

綜合目前的公開資料來看,，這項(xiàng)倡議的宗旨在于為人類留出時(shí)間，思考AI開發(fā)的合規(guī)性和安全性,，并助力人類展開相關(guān)的工作。對于此,，GPT-4認(rèn)為,，“6個(gè)月的時(shí)間可能對于實(shí)現(xiàn)這一目的具有一定的挑戰(zhàn)性,。”

馬斯克在社交網(wǎng)絡(luò)上與杰弗里·辛頓和蓋瑞·馬庫斯互動。

29日,，生命未來研究所（Future of Life Institute）公布一封公開信,，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月,。辛頓、馬庫斯和馬斯克均簽署了這封公開信,。

“加快開發(fā)強(qiáng)大的AI治理系統(tǒng)”

生命未來研究所的這封公開信題為“暫停巨型AI實(shí)驗(yàn)：一封公開信”,，于29日解封。

未來生命研究所的公開信已有1079人簽署,。

信中寫道：廣泛的研究表明，具有與人類競爭智能的人工智能系統(tǒng)可能對社會和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，這一觀點(diǎn)得到了頂級人工智能實(shí)驗(yàn)室的承認(rèn),。正如廣泛認(rèn)可的“阿西洛馬人工智能原則（Asilomar AI Principles,，阿西莫夫的機(jī)器人三大法則的擴(kuò)展版本,，于2017年由近千名人工智能和機(jī)器人專家簽署）中所述，高級AI可能代表地球生命史上的深刻變化,，應(yīng)該以相應(yīng)的關(guān)照和資源進(jìn)行規(guī)劃和管理,。不幸的是,，這種級別的規(guī)劃和管理并沒有發(fā)生,，盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場失控的競賽,，以開發(fā)和部署更強(qiáng)大的數(shù)字思維,，沒有人——甚至他們的創(chuàng)造者——能理解,、預(yù)測或可靠地控制,。

12 3 4 全文共 4 頁下一頁

關(guān)閉

馬斯克呼吁停訓(xùn)AI系統(tǒng) 稱可能導(dǎo)致核戰(zhàn)爭和更嚴(yán)重的疫情

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)