2024年圖靈獎(jiǎng)公布獲獎(jiǎng)?wù)呔続I安全風(fēng)險(xiǎn)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-05 22:08:53 IT之家

兩位開(kāi)創(chuàng)性科學(xué)家安德魯·巴托和理查德·薩頓因其在人工智能訓(xùn)練技術(shù)領(lǐng)域的卓越貢獻(xiàn),，榮獲了2024年圖靈獎(jiǎng),。他們?cè)陬I(lǐng)獎(jiǎng)之際對(duì)當(dāng)前人工智能開(kāi)發(fā)中的安全隱患表達(dá)了深切擔(dān)憂。

2024年圖靈獎(jiǎng)公布

巴托是馬薩諸塞大學(xué)的研究員,，而薩頓曾是DeepMind的研究科學(xué)家,。他們指出,，許多人工智能公司在產(chǎn)品尚未經(jīng)過(guò)充分測(cè)試的情況下便急于推向市場(chǎng)，這種做法無(wú)異于“建造一座橋,，然后通過(guò)讓行人使用來(lái)測(cè)試其安全性”,。

2024年圖靈獎(jiǎng)公布獲獎(jiǎng)?wù)呔続I安全風(fēng)險(xiǎn)

圖靈獎(jiǎng)被譽(yù)為“計(jì)算機(jī)界的諾貝爾獎(jiǎng)”，獎(jiǎng)金高達(dá)100萬(wàn)美元,。此次巴托和薩頓憑借開(kāi)發(fā)“強(qiáng)化學(xué)習(xí)”技術(shù)而共同獲獎(jiǎng),。強(qiáng)化學(xué)習(xí)是一種通過(guò)試錯(cuò)訓(xùn)練人工智能系統(tǒng)做出優(yōu)化決策的機(jī)器學(xué)習(xí)方法。谷歌高級(jí)副總裁杰夫·迪恩稱這一技術(shù)是“人工智能進(jìn)步的關(guān)鍵”,，并且一直是推動(dòng)人工智能發(fā)展的“核心支柱”,，包括OpenAI的ChatGPT和谷歌的AlphaGo等突破性模型都受益于此。

在接受《金融時(shí)報(bào)》采訪時(shí)，巴托表示：“在沒(méi)有安全措施的情況下向數(shù)百萬(wàn)用戶發(fā)布軟件,，這并不是良好的工程實(shí)踐,。工程實(shí)踐的演進(jìn)本應(yīng)是為了減輕技術(shù)可能帶來(lái)的負(fù)面影響，但我并未看到開(kāi)發(fā)人工智能的公司遵循這一原則,。”

人工智能開(kāi)發(fā)的安全性問(wèn)題早已引起廣泛關(guān)注,。被稱為“人工智能教父”的約書(shū)亞·本吉奧和杰弗里·辛頓也曾對(duì)此提出批評(píng),，他們同樣是圖靈獎(jiǎng)的獲得者。

巴托認(rèn)為人工智能公司過(guò)于“受商業(yè)利益驅(qū)動(dòng)”,，而忽視了人工智能研究的深入發(fā)展,。

(責(zé)任編輯：張佳鑫 0764)

關(guān)閉

2024年圖靈獎(jiǎng)公布 獲獎(jiǎng)?wù)呔続I安全風(fēng)險(xiǎn)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

2024年圖靈獎(jiǎng)公布獲獎(jiǎng)?wù)呔続I安全風(fēng)險(xiǎn)