小心AI在胡說(shuō)八道警惕虛假信息誤導(dǎo)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-05 16:23:25 新浪財(cái)經(jīng)

小心AI在胡說(shuō)八道,！2025年2月，中國(guó)人民大學(xué)教授李婷公開辟謠了一組數(shù)據(jù)——“中國(guó)80后累計(jì)死亡率為5.20%”,。在社交媒體上,，許多“80后”因這組數(shù)據(jù)感到惋惜,。自媒體聲稱：“截至2024年末，80后的死亡率已經(jīng)超過(guò)70后,，相當(dāng)于每20個(gè)80后中,，就有1人已經(jīng)去世?！?/p>

李婷教授在接受采訪時(shí)表示,，這一說(shuō)法明顯錯(cuò)誤,，因?yàn)閷I(yè)統(tǒng)計(jì)數(shù)據(jù)中的死亡率通常用千分率表示,，而不是百分率。她還指出,，國(guó)家統(tǒng)計(jì)局并未公布2024年的死亡率,，也不會(huì)根據(jù)“80后”、“90后”等分段公布死亡人數(shù),，因此這一說(shuō)法毫無(wú)數(shù)據(jù)支撐,。

關(guān)于虛假數(shù)據(jù)的來(lái)源，李婷認(rèn)為可能源于AI大模型出錯(cuò),。她在AI大模型中輸入問(wèn)題：“50后,、60后、70后,、80后,，這幾代人的死亡率分別是多少”，大模型回答：“80后現(xiàn)存2.12億,，存活率94.8%,，死亡率5.2%?！边@種無(wú)中生有的能力被稱為“幻覺”,，即AI在遇到不熟悉的問(wèn)題時(shí)編造難以辨明真假的細(xì)節(jié),。

新浪新技術(shù)研發(fā)負(fù)責(zé)人張俊林提到，隨著各個(gè)領(lǐng)域加強(qiáng)對(duì)AI的接入,，AI幻覺成為需要重視的問(wèn)題,，但目前尚未找到根除辦法。清華大學(xué)長(zhǎng)聘副教授陳天昊也表示,，對(duì)于學(xué)生等特殊人群來(lái)說(shuō),，大模型幻覺問(wèn)題帶來(lái)的風(fēng)險(xiǎn)更大。例如,，小學(xué)生可能和家長(zhǎng)一起使用大模型學(xué)習(xí)知識(shí),，但大模型產(chǎn)生的幻覺可能會(huì)產(chǎn)生誤導(dǎo)。

科普作家河森堡在微博中分享了他使用ChatGPT的經(jīng)歷,。他在讓ChatGPT介紹文物“青銅利簋”時(shí),，發(fā)現(xiàn)其將西周文物的來(lái)歷編造成商王帝乙祭祀父親帝丁所鑄，并且標(biāo)明了錯(cuò)誤的文獻(xiàn)來(lái)源,。在豆瓣,，陀思妥耶夫斯基的書迷也發(fā)現(xiàn)AI在使用聯(lián)網(wǎng)搜索功能時(shí)不懂裝懂、捏造細(xì)節(jié),。

12 全文共 2 頁(yè)下一頁(yè)

關(guān)閉

小心AI在胡說(shuō)八道 警惕虛假信息誤導(dǎo)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

小心AI在胡說(shuō)八道警惕虛假信息誤導(dǎo)