馬斯克呼吁停訓(xùn)AI系統(tǒng) 稱可能導(dǎo)致核戰(zhàn)爭和更嚴(yán)重的疫情(4)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-03-29 16:18:22 澎湃新聞

但是，盡管許多文獻(xiàn)將人工智能風(fēng)險等同于超級智能或通用人工智能風(fēng)險，但不一定非要超級智能才能造成嚴(yán)重問題,。“我現(xiàn)在并不擔(dān)心‘AGI風(fēng)險’（我們無法控制的超級智能機(jī)器的風(fēng)險）,，在短期內(nèi)我擔(dān)心的是‘MAI風(fēng)險’——平庸人工智能（Mediocre AI）是不可靠的（比如必應(yīng)和GPT-4）但被廣泛部署——無論是就使用它的人數(shù)而言,，還是就世界對軟件的訪問而言。一家名為Adept.AI的公司剛剛籌集了3.5億美元來做到這一點,，以允許大型語言模型訪問幾乎所有內(nèi)容（旨在通過大型語言模型‘增強(qiáng)你在世界上任何軟件工具或API上的能力’,，盡管它們有明顯的幻覺和不可靠傾向）?！?/p>

馬庫斯認(rèn)為,，許多普通人也許智力高于平均水平,，但不一定是天才，在整個歷史中也制造過各種各樣的問題,。在許多方面,，起關(guān)鍵作用的不是智力而是權(quán)力。一個擁有核代碼的白癡就可以摧毀世界,，只需要適度的情報和不應(yīng)該得到的訪問權(quán)限?，F(xiàn)在，AI工具已經(jīng)引起了犯罪分子的興趣,，越來越多地被允許進(jìn)入人類世界,，它們可能造成更大的破壞。

歐洲刑警組織27日發(fā)布一份報告,，對采用ChatGPT類工具進(jìn)行犯罪的可能性進(jìn)行了討論，令人警醒,?！按笮驼Z言模型檢測和重現(xiàn)語言模式的能力不僅有助于網(wǎng)絡(luò)釣魚和在線欺詐，而且通常還可以用來冒充特定個人或群體的講話風(fēng)格,。這種能力可能會被大規(guī)模濫用,，以誤導(dǎo)潛在受害者將他們的信任交給犯罪分子?！边@份報告寫道,，“除了上述犯罪活動外，ChatGPT的功能還有助于處理恐怖主義,、政治宣傳和虛假信息領(lǐng)域的許多潛在濫用案件,。因此，該模型通?？捎糜谑占嗫赡艽龠M(jìn)恐怖活動的信息,，例如恐怖主義融資或匿名文件共享?！?/p>

馬庫斯認(rèn)為,，再加上人工智能生成的大規(guī)模宣傳，被大型語言模型增強(qiáng)的恐怖主義可能導(dǎo)致核戰(zhàn)爭,，或者導(dǎo)致比新冠病毒更糟糕的病原體的故意傳播等,。許多人可能會死亡，文明可能會被徹底破壞,。也許人類不會真的“從地球上消失”,，但事情確實會變得非常糟糕。

“人工智能教父”杰弗里·辛頓在接受哥倫比亞廣播公司采訪時表示,，人工智能可能發(fā)展到對人類構(gòu)成威脅“并非不可想象”的地步,。

上周在哥倫比亞廣播公司的采訪中,，“人工智能教父”辛頓被問及人工智能“消滅人類”的可能性時說，“我認(rèn)為這并非不可想象,。我只想說這些,。”

馬庫斯指出,，相比辛頓和馬斯克擔(dān)憂天網(wǎng)和機(jī)器人接管世界,，應(yīng)該更多思考眼前的風(fēng)險，包括恐怖分子在內(nèi)的犯罪分子可能對大型語言模型做什么,，以及如何阻止他們,。

首頁上一頁 1 2 34共 4 頁

(責(zé)任編輯：高釗垣 zx0304)

關(guān)閉

馬斯克呼吁停訓(xùn)AI系統(tǒng) 稱可能導(dǎo)致核戰(zhàn)爭和更嚴(yán)重的疫情(4)

相關(guān)新聞

今日熱點

頻道熱點