別讓DeepSeek成了造謠者的“白手套” AI謠言的真相與對(duì)決(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-05 08:34:33 新浪網(wǎng)

更嚴(yán)重的是,，造謠者還會(huì)將AI的回答以截圖形式繼續(xù)傳播,，形成“謠言—AI回答—更多謠言”的循環(huán)。這種自我強(qiáng)化的閉環(huán)使謠言像癌細(xì)胞般無限增殖。據(jù)統(tǒng)計(jì),，2024年搜索熱度較高的50個(gè)國內(nèi)AI風(fēng)險(xiǎn)相關(guān)輿情案例中，超1/5與AI造謠有關(guān)，68%的網(wǎng)民曾因AI生成的“專家解讀”“權(quán)威數(shù)據(jù)”而誤信謠言。一名受訪者苦笑：“以前不信小道消息,，現(xiàn)在連AI都撒謊，我們還能信誰,？”

AI謠言帶來的破壞力巨大,，不僅限于資本市場。前不久,，“廣州法院對(duì)某汽車品牌L3級(jí)自動(dòng)駕駛追尾事故作出首例判決”的謠言全網(wǎng)傳播,，對(duì)該品牌的聲譽(yù)和銷售造成打擊。在公共安全事故時(shí),，有人故意制造AI謠言擾亂視聽,，干擾救援節(jié)奏，引發(fā)民眾恐慌,。世界經(jīng)濟(jì)論壇發(fā)布的《2025年全球風(fēng)險(xiǎn)報(bào)告》顯示,，“錯(cuò)誤和虛假信息”是2025年全球面臨的五大風(fēng)險(xiǎn)之一，AI濫用是這種風(fēng)險(xiǎn)的重要推手,。

別讓DeepSeek成了造謠者的“白手套” AI謠言的真相與對(duì)決

AI淪為造謠者的“嘴替”主要因?yàn)槠浯嬖诘亩贪?。其中較為突出的問題是語料污染與AI幻覺。AI大模型訓(xùn)練依賴海量數(shù)據(jù),，但數(shù)據(jù)的真實(shí)性無人擔(dān)保,。中國信通院實(shí)驗(yàn)發(fā)現(xiàn)，當(dāng)在特定論壇連續(xù)發(fā)布百余條虛假信息后,，主流AI大模型對(duì)對(duì)標(biāo)問題的回答置信度會(huì)迅速飆升,。紐約大學(xué)的研究團(tuán)隊(duì)也揭示了大語言模型在數(shù)據(jù)訓(xùn)練中的脆弱性，極少量的虛假信息就能導(dǎo)致整個(gè)模型出現(xiàn)重大錯(cuò)誤,。此外,，AI為了完成邏輯自洽，有時(shí)還會(huì)胡編亂造,，產(chǎn)生“AI幻覺”,。

傳統(tǒng)造謠需要雇傭?qū)懯郑鳤I將成本壓縮至近乎為零且效率極高,，利益豐厚,。南昌警方查處某MCN機(jī)構(gòu)，負(fù)責(zé)人王某某通過AI工具每日生成虛假文章4000-7000篇,，內(nèi)容涵蓋“某公司暴雷”“某地災(zāi)情”等,，最高峰時(shí)每天收入超1萬元。某黑產(chǎn)從業(yè)者聲稱：“用AI造謠就像開印鈔機(jī),，團(tuán)隊(duì)3個(gè)人一個(gè)月能賺50萬。”他們甚至開發(fā)了“謠言KPI系統(tǒng)”,，根據(jù)傳播量獎(jiǎng)勵(lì)造謠者,。

關(guān)閉

別讓DeepSeek成了造謠者的“白手套” AI謠言的真相與對(duì)決(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)