DeepSeek-R1在某些情況下會出現(xiàn)“胡說八道”的現(xiàn)象,即幻覺,,其幻覺率為14.3%,,遠(yuǎn)高于行業(yè)平均水平。這一問題主要源于數(shù)據(jù),、模型和應(yīng)用層的多重因素,。
在Vectara HHEM人工智能幻覺檢測中,DeepSeek-R1顯示出14.3%的幻覺率,,遠(yuǎn)高于DeepSeekV3和行業(yè)平均水平,。例如,,在國際象棋游戲中,DeepSeek-R1出現(xiàn)了明顯的幻覺,,如主動送兵線,、虛構(gòu)規(guī)則更新等。
模型學(xué)習(xí)的大量知識中,,有些事實或細(xì)節(jié)可能沒有被充分記住或理解,導(dǎo)致預(yù)測時產(chǎn)生錯誤,。大模型的設(shè)計原理決定了它必須基于已有知識進(jìn)行預(yù)測和補全,,當(dāng)遇到不熟悉或模糊的信息時,模型會自動“想象”,,從而產(chǎn)生幻覺,。此外,在某些應(yīng)用場景下,,如科研檢索,,模型可能會生成與真實世界知識相矛盾的信息。
幻覺可能導(dǎo)致信息錯誤,,對決策和學(xué)術(shù)研究等產(chǎn)生誤導(dǎo),。但在某些創(chuàng)意性場景中,幻覺也可以被視為一種外在的想象力,,激發(fā)人的靈感,。
通過改進(jìn)模型設(shè)計和訓(xùn)練數(shù)據(jù)可以降低幻覺率。使用者應(yīng)了解模型的局限性,,避免盲信盲從,。同時,加強行業(yè)對AI模型的監(jiān)管和評估,,確保模型的準(zhǔn)確性和可靠性也很重要,。
2月12日,,天風(fēng)證券盤中漲停9.91%,,截至14:44,股價報4.77元/股,,成交額達(dá)23.06億元,,換手率為5.96%,總市值為413.36億元
2025-02-12 20:02:35天風(fēng)證券漲停分析