媒體人談DeepSeeK的致命傷說假話問題嚴重

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-02-12 04:20:26 網(wǎng)易

媒體人談DeepSeeK的致命傷。近些日子，老詹突然迷上了DeepSeeK,，幾乎每天都在使用,。他幾乎每篇文章都借助這個工具來完成。然而,，隨著時間的推移，他發(fā)現(xiàn)DeepSeeK并不總是可靠，最大的問題在于它會說假話,。

這個問題在老詹使用DeepSeeK寫第二篇文章時就顯現(xiàn)出來了。有位網(wǎng)友留言展示了一篇用DeepSeeK寫的《史記·詹國樞列傳》,，文章中錯誤不少,，有些甚至離譜到信口開河。例如,，文中提到詹國樞是巴蜀瀘州人,，共和癸未年生，少孤貧,，母親陳氏以漿洗供束脩,。但事實是，老詹并非瀘州人,，他的母親也不是陳氏,。盡管當時正“熱戀”中,，老詹沒有深究。

后來,，老詹再次發(fā)現(xiàn)DeepSeeK胡說八道,。他讓DeepSeeK根據(jù)楊喬的文章及人們對楊喬的描述撰寫一篇短文《楊喬是這樣的人……》。結(jié)果不到十秒,，文章生成了,，但錯誤連篇，比如將從未念過大學的楊喬說成畢業(yè)于中國人民大學,。此外,，文章還編造了一些生動的情節(jié)，如金婚紀念日的故事和改稿習慣,，這些情節(jié)顯然都是虛構(gòu)的,。

就在同一天，復旦大學同學群里有人請DeepSeeK寫老班長朱大建,。結(jié)果文章不僅張冠李戴,，還無中生有地說朱大建的代表作是《平凡的世界》，雖然緊接著又說并非本人所著,，邏輯上自相矛盾,。

此后，老詹請DeepSeeK幫助寫一篇關于某著名記者的文章,，結(jié)果也是充滿虛構(gòu)內(nèi)容,。經(jīng)過朋友核實后，發(fā)現(xiàn)文章中的許多事情該記者從未做過,。這讓老詹感到后怕,，如果貿(mào)然發(fā)表，可能會鬧出天大的笑話,。

老詹冷靜分析后認為,，DeepSeeK之所以會說假話，并非出于本意,，而是因為它缺乏辨別真假的能力,。它只會把網(wǎng)上的信息照單全收，然后通過算法加工處理,。這樣一來,，如果網(wǎng)上有關于某人的假新聞，DeepSeeK也會將其作為素材使用,，從而導致生成的文章不真實,。

老詹提醒開發(fā)團隊，如果不解決這個問題,，DeepSeeK的信譽和前途都將受到嚴重影響,。他還嘗試了其他中文模型,，如字節(jié)的豆包、百度的文心一言等,，發(fā)現(xiàn)它們也有類似的問題,。因此，AI陣營需要聯(lián)合起來共同研究解決方案,。

盡管給DeepSeeK提了意見,，老詹還是把它當作好朋友。他找到DeepSeeK,，請它幫忙寫一首打油詩《說假話,，要不得》。五秒鐘后,，詩完成了：

張口胡編瞎嘚瑟謊多早晚要露餡圓完東來又圓西躲進廁所直哆嗦假話穿幫兜不住信任碎成渣滓沫騙來騙去心裹火真言半句千斤諾勸君莫學變色蛇舌底蓮花別瞎作謊話是條漏風船沉進苦海難解說

(責任編輯：盧其龍 CN070)

關閉