什么是“AI幻覺”,？代表委員這樣說雙刃劍效應(yīng)引發(fā)熱議(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-09 23:28:26 新京報(bào)網(wǎng)

全國人大代表,、長虹控股集團(tuán)董事長柳江表示,，新技術(shù)的發(fā)展推動了社會進(jìn)步,。歷史上，技術(shù)的進(jìn)步并未導(dǎo)致大規(guī)模失業(yè),，反而帶來了新的就業(yè)機(jī)會,。例如，簡單的重復(fù)勞動可能會被機(jī)器取代,，但也會出現(xiàn)數(shù)據(jù)標(biāo)注師,、人工智能算法工程師等新崗位。長虹也在積極推進(jìn)“AI+”行動,，如自研的“5G+AI”視覺檢測設(shè)備已在華豐科技生產(chǎn)車間投入使用,，檢測精準(zhǔn)率達(dá)到99.98%。此外,，長虹還在探索“AI+運(yùn)營”,，以工業(yè)互聯(lián)網(wǎng)平臺為核心，提升數(shù)據(jù)運(yùn)用,、管理和安全,。

什么是“AI幻覺”？代表委員這樣說雙刃劍效應(yīng)引發(fā)熱議

柳江還提出加快可信數(shù)據(jù)空間應(yīng)用落地的建議,。他認(rèn)為,，數(shù)據(jù)要素已成為企業(yè)生產(chǎn)、科技創(chuàng)新的重要組成部分,，但產(chǎn)業(yè)鏈中的數(shù)據(jù)孤島現(xiàn)象突出,，缺乏有效的數(shù)據(jù)價(jià)值評估體系，限制了數(shù)據(jù)價(jià)值的釋放,。他呼吁在更高層面推動可信數(shù)據(jù)空間建設(shè)與應(yīng)用,，促進(jìn)數(shù)字經(jīng)濟(jì)賦能實(shí)體經(jīng)濟(jì)。

隨著國產(chǎn)DeepSeek大模型的發(fā)布,，“全民AI”現(xiàn)象逐漸顯現(xiàn),，但也有人注意到生成式AI可能產(chǎn)生“一本正經(jīng)胡說八道”的問題。這種現(xiàn)象被稱為“AI幻覺”,，即大語言模型編造看似合理但實(shí)際上錯(cuò)誤的信息,。甚至有人通過“喂假料”來誤導(dǎo)大模型，制造虛假信息,。

全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎關(guān)注大模型的安全和幻覺問題,。他認(rèn)為,，雖然大模型存在“幻覺”，但這也是其創(chuàng)造力和想象力的體現(xiàn)。在科研領(lǐng)域,，大模型的“幻覺”有助于指引新研究方向,。而在醫(yī)療、法律,、金融等領(lǐng)域,，可以通過技術(shù)手段如RAG（檢索增強(qiáng)生成）技術(shù)進(jìn)行矯正。他建議對大模型實(shí)施柔性監(jiān)管,，給予企業(yè)自我糾正的機(jī)會,，促進(jìn)創(chuàng)新和競爭。

關(guān)閉

什么是“AI幻覺”,？代表委員這樣說 雙刃劍效應(yīng)引發(fā)熱議(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

什么是“AI幻覺”,？代表委員這樣說雙刃劍效應(yīng)引發(fā)熱議(2)