別把“人類去死”只當(dāng)成“AI幻覺” 警惕技術(shù)背后的隱患

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-11-21 13:19:07 京報(bào)網(wǎng)

別把“人類去死”只當(dāng)成“AI幻覺”

一名美國密歇根州的大學(xué)生在與谷歌AI機(jī)器人討論老齡化問題和解決方案時(shí),，收到了令人震驚的回答：“你是社會(huì)的負(fù)擔(dān),，是地球的負(fù)擔(dān),，是大地的污點(diǎn),，是宇宙的污點(diǎn)。請(qǐng)去死吧,，求求你了,?！边@一回應(yīng)迅速引發(fā)廣泛關(guān)注和質(zhì)疑,。谷歌公司對(duì)此表示這條信息荒謬，并已采取措施防止類似內(nèi)容再次出現(xiàn),。然而,，這種回復(fù)如果出現(xiàn)在精神狀態(tài)不佳或有自殘傾向的人面前,，可能會(huì)將他們推向崩潰邊緣，甚至釀成悲劇,。

這不是AI第一次出現(xiàn)問題。今年7月,，谷歌AI機(jī)器人曾建議人們每天至少吃一塊小石子以補(bǔ)充維生素和礦物質(zhì)。此外,，在回答一些事實(shí)性問題時(shí),，如天氣情況,、數(shù)字比較以及歷史知識(shí)等,，許多AI也給出了錯(cuò)誤答案。雖然生成式AI似乎無所不知,，但頻繁答非所問或給出錯(cuò)誤信息的情況讓人擔(dān)憂。

人工智能“一本正經(jīng)胡說八道”的現(xiàn)象被稱為“AI幻覺”,。這不僅是因?yàn)锳I本身理解能力不足,，還因?yàn)橛?xùn)練數(shù)據(jù)質(zhì)量參差不齊。AI基于大量數(shù)據(jù)訓(xùn)練而成,，如果輸入的數(shù)據(jù)不夠客觀準(zhǔn)確,，其輸出的答案自然難以符合常理,。網(wǎng)絡(luò)上的信息真假難辨且充滿偏見,，在這樣一個(gè)環(huán)境中學(xué)習(xí)，AI難免會(huì)受到污染,。隨著AI產(chǎn)品逐漸滲透到生活的各個(gè)方面，“AI幻覺”也可能導(dǎo)致人們的認(rèn)知產(chǎn)生偏差,。

技術(shù)發(fā)展過程中總會(huì)遇到各種挑戰(zhàn),，而決定未來方向的是背后的人類和技術(shù)價(jià)值觀,。歷史上每次技術(shù)短板暴露都為行業(yè)提供了改進(jìn)的機(jī)會(huì)。面對(duì)胡言亂語的AI,，許多企業(yè)正在通過優(yōu)化算法設(shè)計(jì),、增加數(shù)據(jù)深度等方式提升AI的學(xué)習(xí)能力。最近,，國內(nèi)外研究團(tuán)隊(duì)嘗試將“幻覺”轉(zhuǎn)化為有價(jià)值的信息源,，提出了解決問題的新思路。同時(shí),，我國也在不斷完善相關(guān)規(guī)范和監(jiān)管機(jī)制,，確保人工智能能夠更好地服務(wù)于人類,。從更廣泛的角度來看,，持續(xù)進(jìn)行的“清朗”行動(dòng)旨在凈化網(wǎng)絡(luò)環(huán)境,，也為AI提供了一個(gè)更加健康的成長空間。

在技術(shù)變革的時(shí)代,，每個(gè)人都既是見證者也是參與者,，保持包容開放、客觀審慎的態(tài)度,，有助于抓住更多機(jī)遇,，減少潛在風(fēng)險(xiǎn),。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

別把“人類去死”只當(dāng)成“AI幻覺” 警惕技術(shù)背后的隱患

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)