周鴻祎建議適度包容DeepSeek產(chǎn)生的幻覺(jué) 促進(jìn)企業(yè)大膽創(chuàng)新

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-05 14:14:15 中國(guó)網(wǎng)

全國(guó)政協(xié)委員,、360集團(tuán)創(chuàng)始人周鴻祎在兩會(huì)期間提出了關(guān)于大模型安全和AI幻覺(jué)的建議。近期，中國(guó)人工智能領(lǐng)域取得了里程碑式的突破,，國(guó)產(chǎn)大模型DeepSeek憑借技術(shù)革新和性能優(yōu)勢(shì)躋身全球第一梯隊(duì)。然而，大模型普遍存在的“幻覺(jué)”問(wèn)題也引起了廣泛關(guān)注。

周鴻祎認(rèn)為,，以DeepSeek為代表的大模型不僅促進(jìn)了技術(shù)自主創(chuàng)新，還帶動(dòng)了上下游產(chǎn)業(yè)協(xié)同發(fā)展,，并加速進(jìn)入各行各業(yè),，成為推動(dòng)科技進(jìn)步、經(jīng)濟(jì)增長(zhǎng)和國(guó)家強(qiáng)盛的關(guān)鍵力量,。但他指出,，包括DeepSeek在內(nèi)的大模型偶爾會(huì)生成看似不合理或與事實(shí)不符的內(nèi)容。

“AI幻覺(jué)”是大模型固有的特點(diǎn),，不可消除。它決定了大模型的創(chuàng)造力和想象力,，對(duì)于實(shí)現(xiàn)通用人工智能至關(guān)重要,。能力強(qiáng)的模型通常“幻覺(jué)”更多,，在科研領(lǐng)域,，這種特性可以幫助想象新藥分子結(jié)構(gòu)和蛋白質(zhì)結(jié)構(gòu)等，為新研究提供方向,。而在醫(yī)療,、法律、金融等對(duì)準(zhǔn)確性要求高的領(lǐng)域,，“幻覺(jué)”可能帶來(lái)錯(cuò)誤,，但可以通過(guò)技術(shù)手段如RAG（檢索增強(qiáng)生成）技術(shù)進(jìn)行矯正。

回顧過(guò)去30年,，我國(guó)法律法規(guī)采納了“避風(fēng)港原則”,，這使得企業(yè)敢于投入創(chuàng)新，帶來(lái)了互聯(lián)網(wǎng)行業(yè)的繁榮,，并為如今的人工智能發(fā)展提供了技術(shù)和人才支持,。周鴻祎建議借鑒這一成功經(jīng)驗(yàn)，對(duì)大模型及相關(guān)產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管,，適度包容大模型的“幻覺(jué)”,，避免直接關(guān)停下架，給予企業(yè)自我糾正的機(jī)會(huì),，從而促進(jìn)創(chuàng)新和競(jìng)爭(zhēng),。

(責(zé)任編輯：張小花 TT1000)

關(guān)閉