馬斯克呼吁停訓AI系統(tǒng) 稱可能導致核戰(zhàn)爭和更嚴重的疫情(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2023-03-29 16:18:22 澎湃新聞

“當代人工智能系統(tǒng)現在在一般任務上變得與人類具有競爭力,，我們必須捫心自問：我們是否應該讓機器用宣傳和謊言充斥我們的信息渠道？我們是否應該自動化所有工作，包括令人滿意的工作,？我們是否應該發(fā)展最終可能比我們更多、更聰明,，淘汰并取代我們的非人類思維,？我們應該冒險失去對我們文明的控制嗎？”這封信寫道,，“只有當我們確信它們的影響是積極的并且風險是可控的時候,，才應該開發(fā)強大的人工智能系統(tǒng)。這種信心必須有充分的理由,，并隨著系統(tǒng)潛在影響的規(guī)模而增加,。OpenAI最近關于通用人工智能的聲明指出，‘在某些時候,，在開始訓練未來的系統(tǒng)之前進行獨立審查可能很重要,，并且對于最先進的工作來說，應該同意限制用于創(chuàng)建新模型的計算量增長,?！覀兺狻Ｄ莻€某些時候就是現在,?！?/p>

這封信呼吁，所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統(tǒng)至少6個月,。這種暫停應該是公開的和可驗證的,，并且包括所有關鍵參與者,。如果不能迅速實施這種暫停，政府應介入并實行暫停,。人工智能實驗室和獨立專家應該利用這次暫停,，共同開發(fā)和實施一套用于高級人工智能設計和開發(fā)的共享安全協(xié)議，并由獨立的外部專家進行嚴格審計和監(jiān)督,。這些協(xié)議應確保遵守它們的系統(tǒng)是安全的,，并且無可置疑。這并不意味著總體上暫停AI開發(fā),，只是緊急從奔向不可預測的大型黑盒模型的危險競賽中收回腳步,。

與此同時，信中指出,，AI開發(fā)人員必須與政策制定者合作,，以顯著加快開發(fā)強大的AI治理系統(tǒng)。至少應包括：建立專門負責AI的有能力的新監(jiān)管機構,；監(jiān)督和跟蹤高性能人工智能系統(tǒng)和大量計算能力,；推出標明來源系統(tǒng)和水印系統(tǒng)，以幫助區(qū)分真實與合成,，并跟蹤模型泄漏,；強大的審計和認證生態(tài)系統(tǒng)；界定人工智能造成的傷害的責任,；為人工智能技術安全研究提供強大的公共資金,；以資源充足的機構來應對人工智能將造成的巨大經濟和政治破壞（尤其是對民主的破壞）。

首頁上一頁 123 4 全文共 4 頁下一頁

關閉

馬斯克呼吁停訓AI系統(tǒng) 稱可能導致核戰(zhàn)爭和更嚴重的疫情(2)

相關新聞

今日熱點

頻道熱點