上千名科技專家呼吁暫停大型AI研究包括馬斯克等(3)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2023-03-29 14:15:58

至少應(yīng)包括：建立專門負(fù)責(zé)AI的有能力的新監(jiān)管機(jī)構(gòu)；監(jiān)督和跟蹤高性能人工智能系統(tǒng)和大量計(jì)算能力,；推出標(biāo)明來(lái)源系統(tǒng)和水印系統(tǒng),，以幫助區(qū)分真實(shí)與合成，并跟蹤模型泄漏,；強(qiáng)大的審計(jì)和認(rèn)證生態(tài)系統(tǒng),；界定人工智能造成的傷害的責(zé)任；為人工智能技術(shù)安全研究提供強(qiáng)大的公共資金,；以資源充足的機(jī)構(gòu)來(lái)應(yīng)對(duì)人工智能將造成的巨大經(jīng)濟(jì)和政治破壞（尤其是對(duì)民主的破壞）。

這封信最后寫道,，“人類可以享受人工智能帶來(lái)的繁榮未來(lái),。成功創(chuàng)建強(qiáng)大的AI系統(tǒng)后,，我們現(xiàn)在可以享受‘AI之夏’，收獲回報(bào),，設(shè)計(jì)這些系統(tǒng)以造福所有人,，并為社會(huì)提供適應(yīng)的機(jī)會(huì)。社會(huì)已經(jīng)暫停其他可能對(duì)社會(huì)造成災(zāi)難性影響的技術(shù),。我們可以在這個(gè)領(lǐng)域也這樣做,。讓我們享受一個(gè)漫長(zhǎng)的AI之夏，而不是毫無(wú)準(zhǔn)備地陷入秋天,?！?/p>

未來(lái)生命研究所建立于2014年，是一個(gè)非營(yíng)利組織,，由一系列個(gè)人和組織資助,，使命是引導(dǎo)變革性技術(shù)遠(yuǎn)離極端、大規(guī)模的風(fēng)險(xiǎn),，轉(zhuǎn)向造福生活,。

截至發(fā)稿，這封信已有1079名科技領(lǐng)袖和研究人員簽名,，除了馬斯克,、辛頓和馬庫(kù)斯之外，還包括圖靈獎(jiǎng)得主約書亞·本希奧（Yoshua Bengio）,、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素（Stuart Russell）,、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）、Stability AI首席執(zhí)行官埃馬德·莫斯塔克（Emad Mostaque）等科技界領(lǐng)袖人物,。

“可能導(dǎo)致核戰(zhàn)爭(zhēng)和更嚴(yán)重的疫情”

28日,，馬庫(kù)斯在寫作平臺(tái)Substack上寫道，一位同事寫信給他問(wèn)道：“這封（公開(kāi)）信不會(huì)造成對(duì)即將到來(lái)的AGI（通用人工智能）,、超級(jí)智能等的無(wú)端恐懼嗎,？”

美國(guó)作家、紐約大學(xué)教授加里·馬庫(kù)斯,。

馬庫(kù)斯解釋道,，“我仍然認(rèn)為大型語(yǔ)言模型與超級(jí)智能或通用人工智能沒(méi)有太大關(guān)系；我仍然認(rèn)為,，與楊立昆（Yann LeCun）一樣,，大型語(yǔ)言模型是通向通用人工智能道路上的一個(gè)‘出口’。我對(duì)厄運(yùn)的設(shè)想可能與辛頓或馬斯克不同,；他們的（據(jù)我所知）似乎主要圍繞著如果計(jì)算機(jī)快速而徹底地自我改進(jìn)會(huì)發(fā)生什么,，我認(rèn)為這不是一個(gè)直接的可能性?！?/p>

首頁(yè)上一頁(yè)1 234 5 6 全文共 6 頁(yè)下一頁(yè)

關(guān)閉

上千名科技專家呼吁暫停大型AI研究 包括馬斯克等(3)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

上千名科技專家呼吁暫停大型AI研究包括馬斯克等(3)