全國政協(xié)委員,、360集團(tuán)創(chuàng)始人周鴻祎在兩會期間提出了關(guān)于大模型安全和AI幻覺的建議,。近期,,中國人工智能領(lǐng)域迎來重大突破,國產(chǎn)大模型DeepSeek憑借其技術(shù)革新和性能優(yōu)勢躋身全球前列,。周鴻祎認(rèn)為,以DeepSeek為代表的大模型不僅促進(jìn)了技術(shù)自主創(chuàng)新,,還帶動了上下游產(chǎn)業(yè)協(xié)同發(fā)展,,加速了大模型在各行各業(yè)的應(yīng)用,成為推動科技進(jìn)步,、經(jīng)濟(jì)增長和國家強(qiáng)盛的關(guān)鍵力量,。
然而,包括DeepSeek在內(nèi)的大模型都存在“幻覺”問題,,即偶爾會生成看似不合理,、與事實(shí)不符的情況。周鴻祎指出,,“AI幻覺”是一把雙刃劍,,既是大模型的特點(diǎn),也是其創(chuàng)造力和想象力的來源,。如果大模型沒有“幻覺”,,就失去了想象力和創(chuàng)造力。能力強(qiáng)的模型通?!盎糜X”更多,,在科研領(lǐng)域,這種“幻覺”能夠幫助想象新藥分子結(jié)構(gòu),、蛋白質(zhì)結(jié)構(gòu)等,,為新研究指引方向。而在醫(yī)療,、法律,、金融等領(lǐng)域,雖然“幻覺”可能導(dǎo)致錯誤,,但可以通過技術(shù)手段如RAG(檢索增強(qiáng)生成)技術(shù)進(jìn)行矯正,。
回顧過去30年,我國法律法規(guī)吸納了“避風(fēng)港原則”,,鼓勵企業(yè)創(chuàng)新,,帶來了互聯(lián)網(wǎng)行業(yè)的繁榮,并為如今的人工智能發(fā)展提供了技術(shù)和人才支持,。周鴻祎建議,,借鑒這一成功經(jīng)驗(yàn),對大模型及相關(guān)產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管,,適度包容大模型的“幻覺”,,避免直接關(guān)停下架,給予企業(yè)自我糾正的機(jī)會,,促進(jìn)企業(yè)大膽創(chuàng)新和競爭,,爭取讓更多企業(yè)取得類似DeepSeek的成功,。