什么是“AI幻覺”？代表委員這樣說雙刃劍效應(yīng)引發(fā)熱議(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-09 23:28:26 新京報(bào)網(wǎng)

柳江還提出加快可信數(shù)據(jù)空間應(yīng)用落地的建議,。他認(rèn)為,，數(shù)據(jù)要素已成為企業(yè)生產(chǎn),、科技創(chuàng)新的重要組成部分，但產(chǎn)業(yè)鏈中的數(shù)據(jù)孤島現(xiàn)象突出,，缺乏有效的數(shù)據(jù)價(jià)值評(píng)估體系,，限制了數(shù)據(jù)價(jià)值的釋放。他呼吁在更高層面推動(dòng)可信數(shù)據(jù)空間建設(shè)與應(yīng)用,，促進(jìn)數(shù)字經(jīng)濟(jì)賦能實(shí)體經(jīng)濟(jì)。

隨著國(guó)產(chǎn)DeepSeek大模型的發(fā)布,，“全民AI”現(xiàn)象逐漸顯現(xiàn),，但也有人注意到生成式AI可能產(chǎn)生“一本正經(jīng)胡說八道”的問題。這種現(xiàn)象被稱為“AI幻覺”,，即大語(yǔ)言模型編造看似合理但實(shí)際上錯(cuò)誤的信息,。甚至有人通過“喂假料”來誤導(dǎo)大模型，制造虛假信息,。

全國(guó)政協(xié)委員,、360集團(tuán)創(chuàng)始人周鴻祎關(guān)注大模型的安全和幻覺問題。他認(rèn)為,，雖然大模型存在“幻覺”,，但這也是其創(chuàng)造力和想象力的體現(xiàn)。在科研領(lǐng)域,，大模型的“幻覺”有助于指引新研究方向,。而在醫(yī)療、法律,、金融等領(lǐng)域,，可以通過技術(shù)手段如RAG（檢索增強(qiáng)生成）技術(shù)進(jìn)行矯正。他建議對(duì)大模型實(shí)施柔性監(jiān)管,，給予企業(yè)自我糾正的機(jī)會(huì),，促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)。

針對(duì)當(dāng)前包括“AI幻覺”在內(nèi)的AI亂象問題,，構(gòu)建全面且行之有效的治理體系顯得尤為重要,。在法律層面，應(yīng)制定明確條款,，約束惡意利用AI的行為,；在監(jiān)管層面，借助先進(jìn)技術(shù)手段進(jìn)行實(shí)時(shí)監(jiān)控,，特別是在高風(fēng)險(xiǎn)領(lǐng)域加強(qiáng)監(jiān)管,；在社會(huì)治理層面，通過教育培訓(xùn)提高公眾對(duì)AI的認(rèn)知水平,。

全國(guó)人大代表,、中國(guó)工程院院士,、安徽理工大學(xué)校長(zhǎng)袁亮強(qiáng)調(diào)，應(yīng)加快制定和完善AI相關(guān)的法律體系,，明確法律責(zé)任和權(quán)力邊界,。同時(shí)，加強(qiáng)數(shù)據(jù)安全和隱私保護(hù),，采用先進(jìn)的數(shù)據(jù)加密技術(shù),，并建立嚴(yán)格的數(shù)據(jù)訪問和使用權(quán)限管理制度。他還提倡在AI技術(shù)推廣過程中加強(qiáng)對(duì)相關(guān)人員的倫理教育和規(guī)范培訓(xùn),，增強(qiáng)他們的倫理意識(shí)和責(zé)任感,。

首頁(yè)上一頁(yè)12共 2 頁(yè)

(責(zé)任編輯：張佳鑫 0764)

關(guān)閉

什么是“AI幻覺”？代表委員這樣說 雙刃劍效應(yīng)引發(fā)熱議(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

什么是“AI幻覺”？代表委員這樣說雙刃劍效應(yīng)引發(fā)熱議(2)