上千名科技專(zhuān)家呼吁暫停大型AI研究包括馬斯克等(4)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-03-29 14:15:58

人工智能風(fēng)險(xiǎn)與通用人工智能風(fēng)險(xiǎn),。

但是，盡管許多文獻(xiàn)將人工智能風(fēng)險(xiǎn)等同于超級(jí)智能或通用人工智能風(fēng)險(xiǎn),，但不一定非要超級(jí)智能才能造成嚴(yán)重問(wèn)題,。“我現(xiàn)在并不擔(dān)心‘AGI風(fēng)險(xiǎn)’（我們無(wú)法控制的超級(jí)智能機(jī)器的風(fēng)險(xiǎn)）,，在短期內(nèi)我擔(dān)心的是‘MAI風(fēng)險(xiǎn)’——平庸人工智能（Mediocre AI）是不可靠的（比如必應(yīng)和GPT-4）但被廣泛部署——無(wú)論是就使用它的人數(shù)而言,，還是就世界對(duì)軟件的訪問(wèn)而言。一家名為Adept.AI的公司剛剛籌集了3.5億美元來(lái)做到這一點(diǎn),，以允許大型語(yǔ)言模型訪問(wèn)幾乎所有內(nèi)容（旨在通過(guò)大型語(yǔ)言模型‘增強(qiáng)你在世界上任何軟件工具或API上的能力’,，盡管它們有明顯的幻覺(jué)和不可靠?jī)A向）?！?/p>

馬庫(kù)斯認(rèn)為,，許多普通人也許智力高于平均水平，但不一定是天才,，在整個(gè)歷史中也制造過(guò)各種各樣的問(wèn)題,。

在許多方面，起關(guān)鍵作用的不是智力而是權(quán)力,。

一個(gè)擁有核代碼的白癡就可以摧毀世界,，只需要適度的情報(bào)和不應(yīng)該得到的訪問(wèn)權(quán)限。

現(xiàn)在,，AI工具已經(jīng)引起了犯罪分子的興趣,，越來(lái)越多地被允許進(jìn)入人類(lèi)世界，它們可能造成更大的破壞,。

歐洲刑警組織27日發(fā)布一份報(bào)告,，對(duì)采用ChatGPT類(lèi)工具進(jìn)行犯罪的可能性進(jìn)行了討論，令人警醒,?！按笮驼Z(yǔ)言模型檢測(cè)和重現(xiàn)語(yǔ)言模式的能力不僅有助于網(wǎng)絡(luò)釣魚(yú)和在線欺詐，而且通常還可以用來(lái)冒充特定個(gè)人或群體的講話風(fēng)格,。這種能力可能會(huì)被大規(guī)模濫用,，以誤導(dǎo)潛在受害者將他們的信任交給犯罪分子。”這份報(bào)告寫(xiě)道,，“除了上述犯罪活動(dòng)外,，ChatGPT的功能還有助于處理恐怖主義、政治宣傳和虛假信息領(lǐng)域的許多潛在濫用案件,。因此,，該模型通常可用于收集更多可能促進(jìn)恐怖活動(dòng)的信息,，例如恐怖主義融資或匿名文件共享,。”

首頁(yè)上一頁(yè)1 2 345 6 全文共 6 頁(yè)下一頁(yè)

關(guān)閉

上千名科技專(zhuān)家呼吁暫停大型AI研究 包括馬斯克等(4)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

上千名科技專(zhuān)家呼吁暫停大型AI研究包括馬斯克等(4)