對(duì)AI的回答要保持質(zhì)疑 “胡編亂造”背后的真相值得每個(gè)人警惕

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-24 14:43:23 新浪

近年來(lái)，隨著人工智能技術(shù)的飛速發(fā)展,，各類(lèi)AI產(chǎn)品已經(jīng)深度融入我們的日常生活：無(wú)論是在搜索引擎里尋求答案，還是在醫(yī)療,、金融,、教育等領(lǐng)域嘗試獲得專(zhuān)業(yè)建議，人們?cè)絹?lái)越習(xí)慣于“問(wèn)AI”,。然而,，技術(shù)便利的另一面是，越來(lái)越多人開(kāi)始察覺(jué)——這些智能系統(tǒng)雖然話(huà)說(shuō)得頭頭是道,，卻經(jīng)?！氨犙壅f(shuō)瞎話(huà)”。

杜撰資料,、捏造引用,、邏輯混亂……AI一副信誓旦旦的語(yǔ)氣，卻輸出著漏洞百出的內(nèi)容,，這種現(xiàn)象已經(jīng)屢見(jiàn)不鮮,，業(yè)內(nèi)甚至給它起了個(gè)名字——“AI幻覺(jué)”（hallucination）。但問(wèn)題不僅僅是術(shù)語(yǔ)所能涵蓋的那么簡(jiǎn)單，尤其在醫(yī)療,、司法,、財(cái)經(jīng)等對(duì)信息精準(zhǔn)度要求極高的場(chǎng)景中，這種“幻覺(jué)”不僅是個(gè)技術(shù)問(wèn)題,，更可能帶來(lái)嚴(yán)重后果,。

對(duì)AI的回答要保持質(zhì)疑 “胡編亂造”背后的真相值得每個(gè)人警惕

那么，AI到底是“為什么胡說(shuō)八道”,？它是真的在“說(shuō)謊”嗎,？又該如何防止被它誤導(dǎo)？

我們采訪(fǎng)了一位深度參與語(yǔ)言模型研發(fā)的工程師,，試圖還原AI“胡編”的真實(shí)原因,。

不是“說(shuō)謊”，而是“胡猜”

“很多用戶(hù)覺(jué)得AI在說(shuō)謊,，但其實(shí)從技術(shù)角度看,，它并不是有意欺騙?！边@位開(kāi)發(fā)者解釋說(shuō),，目前主流的AI語(yǔ)言模型，并不具備對(duì)“真實(shí)”概念的理解,。它的工作原理是通過(guò)海量的訓(xùn)練數(shù)據(jù)，學(xué)習(xí)如何“預(yù)測(cè)”下一個(gè)最可能出現(xiàn)的詞句,。換句話(huà)說(shuō),，它只是在“猜”你想聽(tīng)什么，并按概率組合出一個(gè)看起來(lái)“合理”的答案,。

12 3 全文共 3 頁(yè)下一頁(yè)

關(guān)閉

對(duì)AI的回答要保持質(zhì)疑 “胡編亂造”背后的真相值得每個(gè)人警惕

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)