媒體：別被你的AI忽悠了警惕AI幻覺(jué)陷阱

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-04-13 13:35:13 中國(guó)經(jīng)濟(jì)網(wǎng)

我國(guó)AI大模型應(yīng)用正在快速增長(zhǎng)。QuestMobile最新數(shù)據(jù)顯示，DeepSeek上線次月（2025年2月），活躍用戶規(guī)模突破1.8億,。然而,，隨著AI應(yīng)用的普及,，一些問(wèn)題也逐漸浮現(xiàn),。比如,，有用戶發(fā)現(xiàn)AI會(huì)編造假論文,，期刊名稱,、論文標(biāo)題,、作者、網(wǎng)址等信息一應(yīng)俱全但全是虛構(gòu),；還有一條“80后死亡率突破5.2%”的假新聞廣為流傳,，據(jù)分析最初的信源可能來(lái)自AI對(duì)話。

媒體：別被你的AI忽悠了

這些問(wèn)題實(shí)際上源自AI大模型的一個(gè)老毛病——AI幻覺(jué),。專家認(rèn)為這是大模型的“基因病”,。因?yàn)锳I訓(xùn)練依賴海量數(shù)據(jù)，但這些數(shù)據(jù)的真實(shí)性無(wú)法保證,。在訓(xùn)練過(guò)程中,，AI將大量數(shù)據(jù)壓縮抽象，輸入的是內(nèi)容間關(guān)系的數(shù)學(xué)表征而非內(nèi)容本身,。與人類對(duì)話時(shí),，AI基于統(tǒng)計(jì)概率生成文本，追求流暢性而非真實(shí)性,，容易產(chǎn)生看似合理實(shí)則虛假的內(nèi)容,。

雖然AI幻覺(jué)帶來(lái)了困擾，但也賦予了AI獨(dú)特的“超能力”,，不必完全根除,。AI自主生成內(nèi)容是大語(yǔ)言模型的重要特點(diǎn)，這種創(chuàng)造力對(duì)實(shí)現(xiàn)通用人工智能至關(guān)重要,，并能在科研,、文藝等領(lǐng)域發(fā)揮作用。例如,，在游戲開(kāi)發(fā)、動(dòng)漫設(shè)計(jì),、小說(shuō)創(chuàng)作中,，AI幻覺(jué)可以提供靈感，突破思維定式,?？茖W(xué)研究中，AI的非常規(guī)思路也有助于推動(dòng)新范式的形成,。

盡管AI幻覺(jué)不可根除,，但可以通過(guò)技術(shù)手段和管理機(jī)制加以控制。技術(shù)上,，檢索增強(qiáng)生成,、多模型交叉驗(yàn)證、動(dòng)態(tài)知識(shí)更新機(jī)制等已被證明有效,。未來(lái)還需提升訓(xùn)練數(shù)據(jù)的質(zhì)量和清洗標(biāo)準(zhǔn),，嚴(yán)格檢測(cè)數(shù)據(jù)來(lái)源和真實(shí)性,，減少噪聲干擾；引入強(qiáng)化學(xué)習(xí)與人類反饋機(jī)制,，提高AI邏輯推理能力,；增強(qiáng)AI大模型檢測(cè)能力，用AI監(jiān)管AI,。

用戶層面,，建議不要直接采信單一AI輸出的答案，而是通過(guò)多個(gè)AI模型生成答案再交叉驗(yàn)證,，關(guān)鍵任務(wù)輸出需進(jìn)行人工交叉驗(yàn)證,，結(jié)合文獻(xiàn)數(shù)據(jù)庫(kù)、行業(yè)知識(shí)圖譜等專業(yè)工具作出判斷,。監(jiān)管方面,，“標(biāo)注AI生成內(nèi)容”已成為我國(guó)監(jiān)管部門推動(dòng)的方向，旨在提高AI生成內(nèi)容的可追溯性和可解釋性,。未來(lái)還需加快人工智能法立法進(jìn)程,，建立全周期全鏈條監(jiān)管體系。

(責(zé)任編輯：張小花 TT1000)

關(guān)閉

媒體：別被你的AI忽悠了 警惕AI幻覺(jué)陷阱

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

媒體：別被你的AI忽悠了警惕AI幻覺(jué)陷阱