千人聯(lián)名叫停研發(fā)AI 發(fā)展太快可能會威脅人類

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-03-31 11:00:46 環(huán)球網(wǎng)

據(jù)路透社報道,，一群人工智能專家及行業(yè)高管聯(lián)名發(fā)表公開信，呼吁所有人工智能實驗室立即暫停訓(xùn)練比GPT-4更強大的人工智能系統(tǒng)至少六個月,，理由是這種系統(tǒng)對社會和人類構(gòu)成潛在風(fēng)險,。

AI發(fā)展太快對社會和人類構(gòu)成潛在風(fēng)險引發(fā)擔(dān)憂

這封公開信中表達的普遍憂慮是，AI發(fā)展太快,，相關(guān)的監(jiān)管和法律沒有跟上,，甚至連發(fā)明者也缺乏有效的控制手段。

英國神經(jīng)學(xué)家阿尼爾·塞斯：我認(rèn)為真正使我震撼的事,，是機器學(xué)習(xí)和人工智能從開發(fā)到發(fā)布這一整個周期似乎非常之快,。

日本首相首次在內(nèi)閣會議上回答“ChatGPT”提問

29日，日本首相岸田文雄在眾議院內(nèi)閣委員會會議上回答了用OpenAI公司的聊天機器人程序“ChatGPT”生成的提問,。隨后，ChatGPT預(yù)測了岸田文雄的回答,，在答辯后用展板進行了展示,，答案的走向基本一致。

日本首相岸田文雄：我的回答列舉出了日本全國知事會,、市長會等具體相關(guān)方的名稱,，更能反映實際狀況。

AI模擬聲音引發(fā)所謂“深度偽造”擔(dān)憂

事實上,，這還只是ChatGPT的基本應(yīng)用,。美媒記者展示了自己使用AI模擬自己的聲音與父親通話的過程，而這一過程也引發(fā)了所謂“深度偽造”的擔(dān)憂,。

美國有線電視新聞網(wǎng)主持人：這看起來像是個好玩的游戲,，但AI技術(shù)甚至可以用來實現(xiàn)所謂的“深度偽造”，這可就不好玩了,。因為我們可以通過這項技術(shù)復(fù)制任何人的外貌,，生成數(shù)字面具,。

GPT-4橫空出世能力太強引發(fā)全球熱議

GPT-4是美國研發(fā)公司OpenAI為聊天機器人ChatGPT發(fā)布的第四代語言模型，它的橫空出世被科技界認(rèn)為是“未來已來”,，引發(fā)了全球熱議,。它可以撰寫文章、創(chuàng)建網(wǎng)頁,、邏輯推理,，創(chuàng)作幾乎任何內(nèi)容。此外,，它還能參加考試,，它在美國律師資格考試中得分超過了90%的考生。

英國天空臺記者湯姆·克拉克：嗨,，GPT-4,，你有自主意識嗎？

GPT-4：作為一個新語言模型,，我不具備意識,，我沒有自我意識、主觀情感或主觀體驗,，我的反應(yīng)是來自我所受訓(xùn)練的文本數(shù)據(jù)中已寫定的模式,。

事實上，從ChatGPT橫空出世至今,，如何管控風(fēng)險一直都是討論的焦點,。

美國廣播公司記者：一方面AI潛力巨大，可以用來做有益的事情,，另一方面,，存在大量未知的情形，可能給社會帶來非常壞的后果,。你有多大的信心,，你打造的東西不會造成這樣的結(jié)果呢？

美國OpenAI公司首席執(zhí)行官山姆·阿爾特曼：我們會調(diào)整,。

美國廣播公司記者：你們會在負(fù)面事情發(fā)生的時候去調(diào)整嗎,？

美國OpenAI公司首席執(zhí)行官山姆·阿爾特曼：當(dāng)前的系統(tǒng)依然弱小，現(xiàn)在就發(fā)布這套系統(tǒng),，趁著風(fēng)險還很小,，盡我們所能去了解情況，我認(rèn)為這樣就能避免出現(xiàn)更加危險的情形,。

不過,，也有觀點反對叫停研發(fā)，可以預(yù)見的是，人類與AI如何共處互進將成為未來全球關(guān)注的焦點,。

(責(zé)任編輯：高釗垣 zx0304)

關(guān)閉

千人聯(lián)名叫停研發(fā)AI 發(fā)展太快可能會威脅人類

相關(guān)新聞

今日熱點

頻道熱點