媒體：警惕AI幻覺帶來的虛假編造理性看待AI問診

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-27 10:30:05 新浪財(cái)經(jīng)

媒體：警惕AI幻覺帶來的虛假編造理性看待AI問診,！近日,，“帶著DeepSeek看病”的話題引起了廣泛關(guān)注,。有人分享了使用AI問診的經(jīng)歷，稱AI給出的建議與醫(yī)生一致,，甚至在醫(yī)院檢查報(bào)告未出結(jié)果時(shí),，AI已經(jīng)完成了初步分析,。

人工智能的發(fā)展正在改變醫(yī)療行業(yè),，許多醫(yī)院引入了DeepSeek，并將其應(yīng)用于臨床,、科研和行政管理等多個(gè)領(lǐng)域,。然而,，AI能否完全替代醫(yī)生仍值得懷疑。

湖南省醫(yī)保局最近發(fā)布通知,，明確規(guī)定禁止接收由人工智能自動(dòng)生成的處方,。一些醫(yī)生也指出,，AI的診斷結(jié)果只能作為參考，在處理復(fù)雜病例和考慮患者個(gè)體差異方面存在局限性,。最終診斷仍需依賴醫(yī)生的專業(yè)判斷,。盡管AI有時(shí)看起來很準(zhǔn)確,，但普通大眾在使用AI問診時(shí),，仍需警惕“AI幻覺”帶來的虛假信息。

當(dāng)向AI提問時(shí)，人們可能會(huì)得到詳細(xì)且邏輯嚴(yán)密的回答，但進(jìn)一步核實(shí)后發(fā)現(xiàn)這些信息可能是虛構(gòu)或編造的,。這種現(xiàn)象稱為“AI幻覺”。由于訓(xùn)練數(shù)據(jù)可能存在偏差或不全面，AI容易生成不準(zhǔn)確的結(jié)果。此外，AI模型基于概率生成,，缺乏對(duì)個(gè)案的真實(shí)感知和深度理解，導(dǎo)致其生成的內(nèi)容可能看似合理實(shí)則荒謬。

已有不少網(wǎng)友發(fā)現(xiàn)了AI幻覺現(xiàn)象,。例如,，在進(jìn)行文獻(xiàn)分析時(shí)，AI會(huì)引用不存在的文獻(xiàn),；將一本書的作者錯(cuò)誤地歸于他人,；或者給出上下文不符、邏輯不一致的答案,。這提醒我們,，AI生成的內(nèi)容并不總是可靠的，特別是在醫(yī)療等嚴(yán)肅領(lǐng)域,，不能完全依賴AI,，以免對(duì)健康造成危害。

雖然要警惕AI幻覺,，但這并不意味著要放棄使用AI技術(shù),。相反，應(yīng)在技術(shù)層面不斷改進(jìn),，并在倫理和規(guī)范上做好準(zhǔn)備,。只有這樣，才能讓AI成為推動(dòng)社會(huì)進(jìn)步的有力工具,，而不是隱患之源,。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

媒體：警惕AI幻覺帶來的虛假編造 理性看待AI問診

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

媒體：警惕AI幻覺帶來的虛假編造理性看待AI問診