第一批DeepSeek開發(fā)者已開始逃離了 AI幻覺引發(fā)擔(dān)憂

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-20 09:06:57 新浪新聞

第一批DeepSeek開發(fā)者已開始逃離了,。你是否開始習(xí)慣DeepSeek的無所不能？寫方案,，找它,！做PPT，找它,！就連身體不舒服,，也想問問它！但有時候,，這個越來越多人信賴的工具也會“一本正經(jīng)地胡說八道”。

人工智能并不是萬能的,。廣州一所著名大學(xué)的教授最近在朋友圈里抱怨DeepSeek查文獻太不靠譜,。這位教授想用DeepSeek查一本書的信息，結(jié)果發(fā)現(xiàn)給出的信息全是錯的,，包括作者,、出版年份和出版社。教授去找DeepSeek理論,，對方承認(rèn)錯誤并表示抱歉,。

知名媒體人詹國樞也遇到過類似的情況。他讓DeepSeek寫一篇《史記·詹國樞列傳》,，結(jié)果開頭的基本信息就被張冠李戴了,。他又讓DeepSeek寫關(guān)于某位記者的文章，內(nèi)容文采飛揚但案例都是虛構(gòu)的,。當(dāng)要求評價路遙的名著《平凡的世界》時,，DeepSeek竟然說是詹國樞的代表作。

陜西自媒體“決明子”曾問DeepSeek西安安定門道路規(guī)劃為何繞一圈,。DeepSeek提出了一個“唐皇城交通靜默區(qū)”的概念,，解釋得有理有據(jù)，但事實上這份文件中并沒有這樣的說法,。DeepSeek承認(rèn)錯誤后,，又繼續(xù)編織答案。

這些現(xiàn)象被稱為AI幻覺,。去年8月,，Arthur AI公司發(fā)布了一份報告,，比較了幾家大語言模型出現(xiàn)幻覺的概率，結(jié)果顯示這些模型都會產(chǎn)生幻覺,。DeepSeek-R1的幻覺率尤其高,，達到了14.3%。這不僅比之前的版本高很多,，也遠超行業(yè)平均水平,。DeepSeek自己也承認(rèn)技術(shù)局限性，生成內(nèi)容的底層邏輯是基于概率的,，因此存在可信度問題,。

DeepSeek-R1之所以更嚴(yán)重，是因為它加強了“思維鏈”和創(chuàng)造力,。例如,，它不僅能寫五絕、七律,，還能流暢表達詩的意境,。然而，這種創(chuàng)造性也會帶來副作用,。面對復(fù)雜問題時,，它能超常發(fā)揮，但面對簡單任務(wù)時,，可能會過度發(fā)揮,。比如問它隔壁老王有多高，它會根據(jù)一般人的身高腦補一個答案,。

正因為如此,，在AI時代我們需要增強辨別能力。今年過年時,，一個自稱是DeepSeek創(chuàng)始人梁文鋒的知乎用戶寫了段感人回復(fù),，后來證實這是假的。這段話符合人們對梁文鋒的想象,，甚至被廣泛傳播,。世界經(jīng)濟論壇發(fā)布的報告顯示，虛假信息和錯誤信息對社會凝聚力和治理構(gòu)成威脅,。Vectara的研究表明,，一些聊天機器人編造事實的幾率高達30%。

哈爾濱工業(yè)大學(xué)（深圳）的張民教授認(rèn)為現(xiàn)階段AI幻覺難以完全消除,。作為使用者,，我們可以通過其他搜索引擎對比查詢，或驗證DeepSeek引用的消息源。AI并不能讓人一勞永逸,，反而提出了更高的要求,，包括如何提問、對話和辨別信息,。最終,，人與人的差距可能會變得更大。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

第一批DeepSeek開發(fā)者已開始逃離了 AI幻覺引發(fā)擔(dān)憂

相關(guān)新聞

今日熱點

頻道熱點