周鴻祎建議適度包容DeepSeek產(chǎn)生的幻覺(jué) 促進(jìn)企業(yè)大膽創(chuàng)新

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-05 14:14:15 中國(guó)網(wǎng)

全國(guó)政協(xié)委員,、360集團(tuán)創(chuàng)始人周鴻祎在兩會(huì)期間提出了關(guān)于大模型安全和AI幻覺(jué)的建議,。近期，中國(guó)人工智能領(lǐng)域取得了里程碑式的突破,，國(guó)產(chǎn)大模型DeepSeek憑借技術(shù)革新和性能優(yōu)勢(shì)躋身全球第一梯隊(duì),。然而,，大模型普遍存在的“幻覺(jué)”問(wèn)題也引起了廣泛關(guān)注。

周鴻祎建議適度包容DeepSeek產(chǎn)生的幻覺(jué)

周鴻祎認(rèn)為,，以DeepSeek為代表的大模型不僅促進(jìn)了技術(shù)自主創(chuàng)新,，還帶動(dòng)了上下游產(chǎn)業(yè)協(xié)同發(fā)展,，并加速進(jìn)入各行各業(yè)，成為推動(dòng)科技進(jìn)步,、經(jīng)濟(jì)增長(zhǎng)和國(guó)家強(qiáng)盛的關(guān)鍵力量,。但他指出，包括DeepSeek在內(nèi)的大模型偶爾會(huì)生成看似不合理或與事實(shí)不符的內(nèi)容,。

“AI幻覺(jué)”是大模型固有的特點(diǎn),，不可消除。它決定了大模型的創(chuàng)造力和想象力,，對(duì)于實(shí)現(xiàn)通用人工智能至關(guān)重要,。能力強(qiáng)的模型通常“幻覺(jué)”更多,，在科研領(lǐng)域,，這種特性可以幫助想象新藥分子結(jié)構(gòu)和蛋白質(zhì)結(jié)構(gòu)等，為新研究提供方向,。而在醫(yī)療,、法律、金融等對(duì)準(zhǔn)確性要求高的領(lǐng)域,，“幻覺(jué)”可能帶來(lái)錯(cuò)誤,，但可以通過(guò)技術(shù)手段如RAG（檢索增強(qiáng)生成）技術(shù)進(jìn)行矯正,。

回顧過(guò)去30年,，我國(guó)法律法規(guī)采納了“避風(fēng)港原則”，這使得企業(yè)敢于投入創(chuàng)新,，帶來(lái)了互聯(lián)網(wǎng)行業(yè)的繁榮,，并為如今的人工智能發(fā)展提供了技術(shù)和人才支持。周鴻祎建議借鑒這一成功經(jīng)驗(yàn),，對(duì)大模型及相關(guān)產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管,，適度包容大模型的“幻覺(jué)”，避免直接關(guān)停下架,，給予企業(yè)自我糾正的機(jī)會(huì),，從而促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)。

(責(zé)任編輯：張小花 TT1000)

關(guān)閉

周鴻祎建議適度包容DeepSeek產(chǎn)生的幻覺(jué) 促進(jìn)企業(yè)大膽創(chuàng)新

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)