媒體：別被你的AI忽悠了警惕AI幻覺陷阱

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-04-13 13:35:13 中國經(jīng)濟網(wǎng)

我國AI大模型應(yīng)用正在快速增長,。QuestMobile最新數(shù)據(jù)顯示，DeepSeek上線次月（2025年2月）,，活躍用戶規(guī)模突破1.8億,。然而，隨著AI應(yīng)用的普及,，一些問題也逐漸浮現(xiàn),。比如，有用戶發(fā)現(xiàn)AI會編造假論文,，期刊名稱,、論文標(biāo)題、作者,、網(wǎng)址等信息一應(yīng)俱全但全是虛構(gòu),；還有一條“80后死亡率突破5.2%”的假新聞廣為流傳，據(jù)分析最初的信源可能來自AI對話,。

媒體：別被你的AI忽悠了

這些問題實際上源自AI大模型的一個老毛病——AI幻覺,。專家認為這是大模型的“基因病”。因為AI訓(xùn)練依賴海量數(shù)據(jù),，但這些數(shù)據(jù)的真實性無法保證,。在訓(xùn)練過程中，AI將大量數(shù)據(jù)壓縮抽象,，輸入的是內(nèi)容間關(guān)系的數(shù)學(xué)表征而非內(nèi)容本身,。與人類對話時，AI基于統(tǒng)計概率生成文本,，追求流暢性而非真實性,，容易產(chǎn)生看似合理實則虛假的內(nèi)容。

雖然AI幻覺帶來了困擾,，但也賦予了AI獨特的“超能力”,，不必完全根除。AI自主生成內(nèi)容是大語言模型的重要特點,，這種創(chuàng)造力對實現(xiàn)通用人工智能至關(guān)重要,，并能在科研,、文藝等領(lǐng)域發(fā)揮作用。例如,，在游戲開發(fā),、動漫設(shè)計、小說創(chuàng)作中,，AI幻覺可以提供靈感,，突破思維定式?？茖W(xué)研究中,，AI的非常規(guī)思路也有助于推動新范式的形成。

盡管AI幻覺不可根除,，但可以通過技術(shù)手段和管理機制加以控制,。技術(shù)上，檢索增強生成,、多模型交叉驗證,、動態(tài)知識更新機制等已被證明有效。未來還需提升訓(xùn)練數(shù)據(jù)的質(zhì)量和清洗標(biāo)準,，嚴格檢測數(shù)據(jù)來源和真實性,，減少噪聲干擾；引入強化學(xué)習(xí)與人類反饋機制,，提高AI邏輯推理能力,；增強AI大模型檢測能力，用AI監(jiān)管AI,。

用戶層面,，建議不要直接采信單一AI輸出的答案，而是通過多個AI模型生成答案再交叉驗證,，關(guān)鍵任務(wù)輸出需進行人工交叉驗證,，結(jié)合文獻數(shù)據(jù)庫、行業(yè)知識圖譜等專業(yè)工具作出判斷,。監(jiān)管方面,，“標(biāo)注AI生成內(nèi)容”已成為我國監(jiān)管部門推動的方向,，旨在提高AI生成內(nèi)容的可追溯性和可解釋性,。未來還需加快人工智能法立法進程，建立全周期全鏈條監(jiān)管體系,。

(責(zé)任編輯：張小花 TT1000)

關(guān)閉

媒體：別被你的AI忽悠了 警惕AI幻覺陷阱

相關(guān)新聞

今日熱點

頻道熱點

媒體：別被你的AI忽悠了警惕AI幻覺陷阱