別讓DeepSeek成了造謠者的“白手套” AI謠言的真相與對決(3)

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2025-03-05 08:34:33 新浪網(wǎng)

別讓DeepSeek成了造謠者的“白手套” AI謠言的真相與對決

盡管《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》要求標注AI內(nèi)容，但一些平臺仍有所欠缺,。當越來越多的人被卷入這場AI造謠形成的虛假信息漩渦,，單純譴責技術無濟于事。唯有技術防御,、平臺責任與法律制裁三管齊下,，才能斬斷這條“謊言流水線”,。

要減小謠言發(fā)生的概率，AI工具需嚴格檢測數(shù)據(jù)來源和真實性,。豆包的數(shù)據(jù)源主要依賴自有業(yè)務數(shù)據(jù),，占比50%-60%，外采數(shù)據(jù)占比15%-20%,。豆包公開強調(diào)“不使用任何其他模型數(shù)據(jù)”,，確保數(shù)據(jù)來源獨立可靠。用AI檢測AI生成的內(nèi)容也是一種有效控制謠言的方法,。國內(nèi)外已有多個團隊投入開發(fā)AI生成內(nèi)容檢測技術,，如騰訊混元安全團隊朱雀實驗室研發(fā)的AI生成圖片檢測系統(tǒng)，檢出率達95%以上,。Meta創(chuàng)建了一個系統(tǒng),，可以在AI生成的音頻片段中嵌入隱藏信號，幫助檢測AI生成內(nèi)容,。

內(nèi)容平臺作為信息傳播的重要渠道,，需擔負起“信息守門人”的責任。抖音,、微博,、快手、小紅書等平臺已經(jīng)開始強制添加“本內(nèi)容由AI生成”的水印,，轉(zhuǎn)發(fā)時保留標識,。今日頭條在謠言治理上建設了謠言庫、權威信源庫以及專業(yè)審核團隊,。用戶自身也要學會辨別虛假信息,，加強防范意識。對于AI給出的回答,，不要全盤接收,，而是追問具體細節(jié)，判斷回答是否存在幻覺,。交叉驗證信息也是一個有效方法,，通過多種渠道驗證答案的準確性。

《生成式人工智能服務管理暫行辦法》已經(jīng)要求數(shù)據(jù)來源合法化,，并明確“不得生成虛假有害信息”的紅線,，但當前法律法規(guī)對“AI投喂”的問題仍存在空白,，需要進一步優(yōu)化,。具體而言，法律需要在“投喂者如何打造語料”“語料的真實性”“投喂的目的”等環(huán)節(jié)進行相關管制,。AI應成為“真相守護者”,，而非“謊言擴音器”,。從語料凈化到平臺和法律的同步整治，這場“AI打假”必須要打贏,。AI工具,、內(nèi)容平臺與監(jiān)管者要合力構建“共治防火墻”，讓謠言困在籠子里,，真正成為照亮真相的火炬,。

首頁上一頁 1 23共 3 頁

(責任編輯：盧其龍 CN070)

關閉

別讓DeepSeek成了造謠者的“白手套” AI謠言的真相與對決(3)

相關新聞

今日熱點

頻道熱點