上千名科技專家呼吁暫停大型AI研究包括馬斯克等(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-03-29 14:15:58

不幸的是,，這種級別的規(guī)劃和管理并沒有發(fā)生，盡管最近幾個月人工智能實驗室陷入了一場失控的競賽，以開發(fā)和部署更強大的數(shù)字思維,，沒有人——甚至他們的創(chuàng)造者——能理解,、預(yù)測或可靠地控制,。

“當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上變得與人類具有競爭力,，我們必須捫心自問：我們是否應(yīng)該讓機器用宣傳和謊言充斥我們的信息渠道,？我們是否應(yīng)該自動化所有工作,，包括令人滿意的工作,？我們是否應(yīng)該發(fā)展最終可能比我們更多、更聰明,，淘汰并取代我們的非人類思維,？我們應(yīng)該冒險失去對我們文明的控制嗎？”這封信寫道,，“只有當(dāng)我們確信它們的影響是積極的并且風(fēng)險是可控的時候,，才應(yīng)該開發(fā)強大的人工智能系統(tǒng)。這種信心必須有充分的理由,，并隨著系統(tǒng)潛在影響的規(guī)模而增加,。OpenAI最近關(guān)于通用人工智能的聲明指出，‘在某些時候,，在開始訓(xùn)練未來的系統(tǒng)之前進行獨立審查可能很重要,，并且對于最先進的工作來說，應(yīng)該同意限制用于創(chuàng)建新模型的計算量增長,?！覀兺狻Ｄ莻€某些時候就是現(xiàn)在,?！?/p>

這封信呼吁,，所有人工智能實驗室立即暫停訓(xùn)練比GPT-4更強大的人工智能系統(tǒng)至少6個月。

這種暫停應(yīng)該是公開的和可驗證的,，并且包括所有關(guān)鍵參與者,。

如果不能迅速實施這種暫停，政府應(yīng)介入并實行暫停,。

人工智能實驗室和獨立專家應(yīng)該利用這次暫停,，共同開發(fā)和實施一套用于高級人工智能設(shè)計和開發(fā)的共享安全協(xié)議，并由獨立的外部專家進行嚴(yán)格審計和監(jiān)督,。

這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)是安全的,，并且無可置疑。

這并不意味著總體上暫停AI開發(fā),，只是緊急從奔向不可預(yù)測的大型黑盒模型的危險競賽中收回腳步,。

與此同時，信中指出,，AI開發(fā)人員必須與政策制定者合作,，以顯著加快開發(fā)強大的AI治理系統(tǒng)。

首頁上一頁 123 4 5...全文共 6 頁下一頁

關(guān)閉

上千名科技專家呼吁暫停大型AI研究 包括馬斯克等(2)

相關(guān)新聞

今日熱點

頻道熱點

上千名科技專家呼吁暫停大型AI研究包括馬斯克等(2)