北京郵電大學(xué)馬克思主義學(xué)院副教授宋林澤認(rèn)為,,AI輸出的內(nèi)容只是一個認(rèn)知起點,,而不是終點,。
大學(xué)生需要主動去驗證它的內(nèi)容,比如查閱權(quán)威來源,、對比不同觀點,,甚至直接與領(lǐng)域?qū)<医涣?。這種驗證過程,,不僅能幫助我們更全面地理解問題,還能讓我們在面對復(fù)雜信息時更有判斷力,。
如何應(yīng)對AI幻覺呢,?
AI工具研究者田威提到,想要獲得準(zhǔn)確答案,,提問方式很關(guān)鍵,。
與AI交流也需要明確和具體,避免模糊或開放性的問題,,提問越具體,、清晰,AI的回答越準(zhǔn)確,。
總結(jié)成提示詞技巧就是下面四種問法:
1.設(shè)定邊界:“請嚴(yán)格限定在2022年《自然》期刊發(fā)表的研究范圍內(nèi)”,;
示例:“介紹ChatGPT的發(fā)展歷程”→“請僅基于OpenAI官方2022-2023年的公開文檔,介紹ChatGPT的發(fā)展歷程”
2.標(biāo)注不確定:“對于模糊信息,,需要標(biāo)注‘此處為推測內(nèi)容’”,;
示例:“分析特斯拉2025年的市場份額”→“分析特斯拉2025年的市場份額,對于非官方數(shù)據(jù)或預(yù)測性內(nèi)容,,請標(biāo)注[推測內(nèi)容]”
3.步驟拆解:“第一步列舉確定的事實依據(jù),,第二步展開詳細(xì)分析”;
示例:“評估人工智能對就業(yè)的影響”→“請分兩步評估AI對就業(yè)的影響”:
1)先列出目前已發(fā)生的具體影響案例,;
2)基于這些案例進(jìn)行未來趨勢分析”,。
4.明確約束:明確告訴AI要基于已有事實回答,不要進(jìn)行推測,。
示例:“預(yù)測2024年房地產(chǎn)市場走勢”→“請僅基于2023年的實際房地產(chǎn)數(shù)據(jù)和已出臺的相關(guān)政策進(jìn)行分析,,不要加入任何推測性內(nèi)容”,。(詳細(xì)請戳全文)
在AI自己的答案中提到,可以通過指令約束,、工具驗證和人工審核三重保障,,大幅降低AI虛構(gòu)文獻(xiàn)的風(fēng)險。值得注意的是,,它還將“人工審核”放到了“最后防線”的重要位置,。
田威提醒,AI幻覺并非沒有好處,。
有時候與其把AI幻覺當(dāng)成缺陷,,不如把它看作創(chuàng)意的源泉。
在寫作,、藝術(shù)創(chuàng)作或頭腦風(fēng)暴時,,這些“跳躍性思維”反而可能幫我們打開新世界的大門。
AI幻覺的本質(zhì)——AI在知識的迷霧中,,有時會創(chuàng)造出看似真實,,實則虛幻的“影子”。但就像任何工具一樣,,關(guān)鍵在于如何使用,。
歸根結(jié)底,在這個AI與人類共同進(jìn)步的時代,,重要的不是責(zé)備AI的不完美,,而是學(xué)會與之更好地協(xié)作。