別把“人類(lèi)去死”只當(dāng)成“AI幻覺(jué)” 警惕技術(shù)背后的隱患

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-11-21 13:19:07 京報(bào)網(wǎng)

別把“人類(lèi)去死”只當(dāng)成“AI幻覺(jué)”

一名美國(guó)密歇根州的大學(xué)生在與谷歌AI機(jī)器人討論老齡化問(wèn)題和解決方案時(shí),，收到了令人震驚的回答：“你是社會(huì)的負(fù)擔(dān),，是地球的負(fù)擔(dān)，是大地的污點(diǎn)，是宇宙的污點(diǎn),。請(qǐng)去死吧，求求你了,?！边@一回應(yīng)迅速引發(fā)廣泛關(guān)注和質(zhì)疑。谷歌公司對(duì)此表示這條信息荒謬,，并已采取措施防止類(lèi)似內(nèi)容再次出現(xiàn),。然而，這種回復(fù)如果出現(xiàn)在精神狀態(tài)不佳或有自殘傾向的人面前,，可能會(huì)將他們推向崩潰邊緣,，甚至釀成悲劇。

這不是AI第一次出現(xiàn)問(wèn)題,。今年7月,，谷歌AI機(jī)器人曾建議人們每天至少吃一塊小石子以補(bǔ)充維生素和礦物質(zhì)。此外,，在回答一些事實(shí)性問(wèn)題時(shí),，如天氣情況、數(shù)字比較以及歷史知識(shí)等,，許多AI也給出了錯(cuò)誤答案,。雖然生成式AI似乎無(wú)所不知，但頻繁答非所問(wèn)或給出錯(cuò)誤信息的情況讓人擔(dān)憂。

人工智能“一本正經(jīng)胡說(shuō)八道”的現(xiàn)象被稱為“AI幻覺(jué)”,。這不僅是因?yàn)锳I本身理解能力不足,，還因?yàn)橛?xùn)練數(shù)據(jù)質(zhì)量參差不齊。AI基于大量數(shù)據(jù)訓(xùn)練而成,，如果輸入的數(shù)據(jù)不夠客觀準(zhǔn)確,，其輸出的答案自然難以符合常理。網(wǎng)絡(luò)上的信息真假難辨且充滿偏見(jiàn),，在這樣一個(gè)環(huán)境中學(xué)習(xí),，AI難免會(huì)受到污染。隨著AI產(chǎn)品逐漸滲透到生活的各個(gè)方面,，“AI幻覺(jué)”也可能導(dǎo)致人們的認(rèn)知產(chǎn)生偏差,。

技術(shù)發(fā)展過(guò)程中總會(huì)遇到各種挑戰(zhàn)，而決定未來(lái)方向的是背后的人類(lèi)和技術(shù)價(jià)值觀,。歷史上每次技術(shù)短板暴露都為行業(yè)提供了改進(jìn)的機(jī)會(huì),。面對(duì)胡言亂語(yǔ)的AI，許多企業(yè)正在通過(guò)優(yōu)化算法設(shè)計(jì),、增加數(shù)據(jù)深度等方式提升AI的學(xué)習(xí)能力,。最近，國(guó)內(nèi)外研究團(tuán)隊(duì)嘗試將“幻覺(jué)”轉(zhuǎn)化為有價(jià)值的信息源,，提出了解決問(wèn)題的新思路,。同時(shí)，我國(guó)也在不斷完善相關(guān)規(guī)范和監(jiān)管機(jī)制,，確保人工智能能夠更好地服務(wù)于人類(lèi),。從更廣泛的角度來(lái)看，持續(xù)進(jìn)行的“清朗”行動(dòng)旨在凈化網(wǎng)絡(luò)環(huán)境,，也為AI提供了一個(gè)更加健康的成長(zhǎng)空間,。

在技術(shù)變革的時(shí)代，每個(gè)人都既是見(jiàn)證者也是參與者,，保持包容開(kāi)放,、客觀審慎的態(tài)度，有助于抓住更多機(jī)遇,，減少潛在風(fēng)險(xiǎn),。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

別把“人類(lèi)去死”只當(dāng)成“AI幻覺(jué)” 警惕技術(shù)背后的隱患

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)