在人工智能飛速發(fā)展的當(dāng)下,，對(duì)于廣大學(xué)生和科研工作者而言，一個(gè)關(guān)鍵問題隨之而來：

借助這樣的前沿大模型寫論文,，真的靠譜嗎,？

3月28日，話題#防止DeepSeek亂編文獻(xiàn)的方法#沖上熱搜,。記者注意到,，用AI工具寫論文“被坑”的經(jīng)歷，并非鮮見,。

問AI一個(gè)問題，它給了你一個(gè)特別詳細(xì),、豐富,，看上去好有邏輯的答案。

但當(dāng)我們?nèi)ズ藢?shí)時(shí),，卻發(fā)現(xiàn)這些信息完全是虛構(gòu)的,？

這就是著名的“AI幻覺”現(xiàn)象。

AI幻覺指的是AI會(huì)生成看似合理但實(shí)際確實(shí)錯(cuò)誤的信息,，最常見的表現(xiàn)就是會(huì)編造一些不存在的事實(shí)或者細(xì)節(jié),。

據(jù)“科普中國”，造成AI幻覺問題的成因很多,，例如：基于統(tǒng)計(jì)關(guān)系的預(yù)測(cè),；訓(xùn)練數(shù)據(jù)的局限性；過擬合問題,，即因?yàn)橛涀×颂噱e(cuò)誤或者無關(guān)緊要的東西,，從而讓AI對(duì)訓(xùn)練數(shù)據(jù)中的噪聲過于敏感,；有限的上下文窗口；生成流暢回答的設(shè)計(jì)等等,。

近日，中國青年報(bào)邀請(qǐng)了3位專家學(xué)者,，一起聊聊技術(shù)浪潮中如何守護(hù)年輕人的思辨能力,。

中國人民大學(xué)新聞學(xué)院教授盧家銀就指出，在知識(shí)建構(gòu)上,，AI生成的虛假學(xué)術(shù)成果,，可能扭曲青年對(duì)科學(xué)方法論的理解，削弱其“假設(shè)-驗(yàn)證”的科研邏輯訓(xùn)練,。

在思維發(fā)展上,，AI謠言通過算法推薦的“信息繭房”形成邏輯閉環(huán),，不利于批判性思維的培養(yǎng),。

北京師范大學(xué)教育學(xué)部教授、教育技術(shù)學(xué)北京市重點(diǎn)實(shí)驗(yàn)室副主任李艷燕建議,，年輕人可以把AI看作一位平等對(duì)話的智者,，通過引導(dǎo)與AI的對(duì)話互動(dòng)，促進(jìn)個(gè)體思維鏈的形成,，并校準(zhǔn)認(rèn)知偏差,。這種去權(quán)威化的思辨訓(xùn)練，可以幫助年輕人在與AI的對(duì)話中保持獨(dú)立判斷,，實(shí)現(xiàn)認(rèn)知躍遷,。

北京郵電大學(xué)馬克思主義學(xué)院副教授宋林澤認(rèn)為，AI輸出的內(nèi)容只是一個(gè)認(rèn)知起點(diǎn),，而不是終點(diǎn),。

大學(xué)生需要主動(dòng)去驗(yàn)證它的內(nèi)容，比如查閱權(quán)威來源,、對(duì)比不同觀點(diǎn),，甚至直接與領(lǐng)域?qū)＜医涣鳌＿@種驗(yàn)證過程,，不僅能幫助我們更全面地理解問題,，還能讓我們?cè)诿鎸?duì)復(fù)雜信息時(shí)更有判斷力。

如何應(yīng)對(duì)AI幻覺呢,？

AI工具研究者田威提到,，想要獲得準(zhǔn)確答案，提問方式很關(guān)鍵,。

與AI交流也需要明確和具體,，避免模糊或開放性的問題，提問越具體、清晰,，AI的回答越準(zhǔn)確,。

總結(jié)成提示詞技巧就是下面四種問法：

1.設(shè)定邊界：“請(qǐng)嚴(yán)格限定在2022年《自然》期刊發(fā)表的研究范圍內(nèi)”；

示例：“介紹ChatGPT的發(fā)展歷程”→“請(qǐng)僅基于OpenAI官方2022-2023年的公開文檔,，介紹ChatGPT的發(fā)展歷程”

2.標(biāo)注不確定：“對(duì)于模糊信息,，需要標(biāo)注‘此處為推測(cè)內(nèi)容’”；

示例：“分析特斯拉2025年的市場(chǎng)份額”→“分析特斯拉2025年的市場(chǎng)份額,，對(duì)于非官方數(shù)據(jù)或預(yù)測(cè)性內(nèi)容,，請(qǐng)標(biāo)注[推測(cè)內(nèi)容]”

3.步驟拆解：“第一步列舉確定的事實(shí)依據(jù)，第二步展開詳細(xì)分析”,；

示例：“評(píng)估人工智能對(duì)就業(yè)的影響”→“請(qǐng)分兩步評(píng)估AI對(duì)就業(yè)的影響”：

1)先列出目前已發(fā)生的具體影響案例,；

2)基于這些案例進(jìn)行未來趨勢(shì)分析”。

4.明確約束：明確告訴AI要基于已有事實(shí)回答,，不要進(jìn)行推測(cè),。

示例：“預(yù)測(cè)2024年房地產(chǎn)市場(chǎng)走勢(shì)”→“請(qǐng)僅基于2023年的實(shí)際房地產(chǎn)數(shù)據(jù)和已出臺(tái)的相關(guān)政策進(jìn)行分析，不要加入任何推測(cè)性內(nèi)容”,。（詳細(xì)請(qǐng)戳全文）

在AI自己的答案中提到,，可以通過指令約束、工具驗(yàn)證和人工審核三重保障,，大幅降低AI虛構(gòu)文獻(xiàn)的風(fēng)險(xiǎn),。值得注意的是，它還將“人工審核”放到了“最后防線”的重要位置,。

田威提醒，AI幻覺并非沒有好處,。

有時(shí)候與其把AI幻覺當(dāng)成缺陷,，不如把它看作創(chuàng)意的源泉。

在寫作,、藝術(shù)創(chuàng)作或頭腦風(fēng)暴時(shí),，這些“跳躍性思維”反而可能幫我們打開新世界的大門。

AI幻覺的本質(zhì)——AI在知識(shí)的迷霧中,，有時(shí)會(huì)創(chuàng)造出看似真實(shí),，實(shí)則虛幻的“影子”。但就像任何工具一樣,，關(guān)鍵在于如何使用,。

歸根結(jié)底，在這個(gè)AI與人類共同進(jìn)步的時(shí)代,，重要的不是責(zé)備AI的不完美,，而是學(xué)會(huì)與之更好地協(xié)作,。