馬斯克呼吁停訓(xùn)AI系統(tǒng) 稱可能導(dǎo)致核戰(zhàn)爭(zhēng)和更嚴(yán)重的疫情

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-03-29 16:18:22 澎湃新聞

馬斯克等1000名科技人士，日前簽署了一封特殊的公開(kāi)信,。

據(jù)未來(lái)生命研究所（Future of Life Institute）網(wǎng)站披露，該網(wǎng)站曾以公開(kāi)信的方式發(fā)起倡議，呼吁所有AI（人工智能）實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月,。截至北京時(shí)間3月29日下午13時(shí)許,，在該網(wǎng)站上，這封公開(kāi)信獲得了包括馬斯克在內(nèi)的1126名人士的聯(lián)名簽署,。

綜合目前的公開(kāi)資料來(lái)看,，這項(xiàng)倡議的宗旨在于為人類留出時(shí)間，思考AI開(kāi)發(fā)的合規(guī)性和安全性,，并助力人類展開(kāi)相關(guān)的工作,。對(duì)于此，GPT-4認(rèn)為,，“6個(gè)月的時(shí)間可能對(duì)于實(shí)現(xiàn)這一目的具有一定的挑戰(zhàn)性,。”

馬斯克在社交網(wǎng)絡(luò)上與杰弗里·辛頓和蓋瑞·馬庫(kù)斯互動(dòng),。

29日,，生命未來(lái)研究所（Future of Life Institute）公布一封公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月,。辛頓,、馬庫(kù)斯和馬斯克均簽署了這封公開(kāi)信。

“加快開(kāi)發(fā)強(qiáng)大的AI治理系統(tǒng)”

生命未來(lái)研究所的這封公開(kāi)信題為“暫停巨型AI實(shí)驗(yàn)：一封公開(kāi)信”,，于29日解封,。

未來(lái)生命研究所的公開(kāi)信已有1079人簽署。

信中寫(xiě)道：廣泛的研究表明,，具有與人類競(jìng)爭(zhēng)智能的人工智能系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn),，這一觀點(diǎn)得到了頂級(jí)人工智能實(shí)驗(yàn)室的承認(rèn)。正如廣泛認(rèn)可的“阿西洛馬人工智能原則（Asilomar AI Principles，阿西莫夫的機(jī)器人三大法則的擴(kuò)展版本,，于2017年由近千名人工智能和機(jī)器人專家簽署）中所述,，高級(jí)AI可能代表地球生命史上的深刻變化，應(yīng)該以相應(yīng)的關(guān)照和資源進(jìn)行規(guī)劃和管理,。不幸的是,，這種級(jí)別的規(guī)劃和管理并沒(méi)有發(fā)生，盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽,，以開(kāi)發(fā)和部署更強(qiáng)大的數(shù)字思維,，沒(méi)有人——甚至他們的創(chuàng)造者——能理解、預(yù)測(cè)或可靠地控制,。

12 3 4 全文共 4 頁(yè)下一頁(yè)

關(guān)閉

馬斯克呼吁停訓(xùn)AI系統(tǒng) 稱可能導(dǎo)致核戰(zhàn)爭(zhēng)和更嚴(yán)重的疫情

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)