警惕AI幻覺帶來的虛假編造 AI問診需謹(jǐn)慎

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-27 13:09:38 新浪財(cái)經(jīng)

警惕AI幻覺帶來的虛假編造,！近日,，有關(guān)“帶著DeepSeek看病”的話題引起了廣泛關(guān)注和討論。有人分享了自己使用AI問診的經(jīng)歷,，稱AI給出的答案與醫(yī)生建議一致,，甚至在醫(yī)院檢查報(bào)告還未出結(jié)果時(shí),，AI就已經(jīng)完成了分析。

警惕AI幻覺帶來的虛假編造

人工智能的興起正在改變醫(yī)療行業(yè),。各地多家醫(yī)院引入DeepSeek,，并將其應(yīng)用于臨床、科研和行政管理等多個(gè)場(chǎng)景,。然而,，AI能否完全替代醫(yī)生仍需質(zhì)疑。湖南省醫(yī)保局日前印發(fā)通知,，明確規(guī)定禁止接收由人工智能自動(dòng)生成的處方,。一些醫(yī)生也指出，AI診斷結(jié)果只能作為參考,，在處理復(fù)雜病例和結(jié)合患者個(gè)體差異方面仍有局限性,，最終診斷仍需依靠醫(yī)生的專業(yè)判斷。盡管AI在某些情況下看起來非常準(zhǔn)確,，但仍然需要醫(yī)生更為專業(yè)的判斷,，更適合輔助專業(yè)醫(yī)護(hù)人員進(jìn)行診療,。對(duì)于普通大眾而言，在使用AI問診時(shí),，警惕“AI幻覺”帶來的虛假編造尤為重要,。

很多時(shí)候，當(dāng)我們向AI提問時(shí),，可能會(huì)得到一個(gè)詳細(xì)且邏輯嚴(yán)密的回答,。然而，進(jìn)一步核實(shí)后會(huì)發(fā)現(xiàn)這些信息存在虛構(gòu)和編造,，這就是所謂的AI幻覺,。由于大模型訓(xùn)練數(shù)據(jù)可能存在偏差或不全面，AI容易生成不準(zhǔn)確的結(jié)果,。此外,，AI基于概率生成內(nèi)容，缺乏對(duì)個(gè)案的真實(shí)感知和事實(shí)的深度理解,，容易陷入“自說自話”的境地,，甚至編造看似合理實(shí)則荒謬的信息。

不少網(wǎng)友已經(jīng)發(fā)現(xiàn)了AI幻覺現(xiàn)象,。有人發(fā)帖表示,，在用AI進(jìn)行文獻(xiàn)分析時(shí)，答案中會(huì)出現(xiàn)查無此文的文獻(xiàn),；有人發(fā)現(xiàn),，AI會(huì)把一本書的作者安到另一個(gè)人身上；還有人發(fā)現(xiàn),，AI給出的答案存在上下文不符,、邏輯不一致的現(xiàn)象。這提醒我們,，AI生成的內(nèi)容并非完全可靠,，要理性看待和使用，特別是在醫(yī)療等嚴(yán)肅領(lǐng)域,，不可完全依賴AI,，以免對(duì)自身健康造成危害。

警惕AI幻覺并不意味著要因噎廢食,，而是要在技術(shù)層面加以改進(jìn),，并在倫理和規(guī)范層面未雨綢繆。AI的發(fā)展需要在進(jìn)步中不斷反思,，在反思中持續(xù)前行,。只有這樣，才能讓AI成為推動(dòng)社會(huì)進(jìn)步的有力工具,，而不是隱患之源,。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

警惕AI幻覺帶來的虛假編造 AI問診需謹(jǐn)慎

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)