公安部揭秘AI謠言兩大套路移花接木制造恐慌(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-04-21 06:49:28 央廣網(wǎng)

AI技術(shù)在文本生成、圖片創(chuàng)作等方面的應(yīng)用越來越廣泛,，輸入幾個關(guān)鍵詞即可快速生成一篇文章或一幅圖片,。而一些網(wǎng)民為博眼球、蹭熱度,，卻將AI技術(shù)用以編造“假消息”,，以此來獲得網(wǎng)民關(guān)注和點贊，進(jìn)而實現(xiàn)流量變現(xiàn),。公安部網(wǎng)安局日前針對AI謠言進(jìn)行了梳理,，發(fā)現(xiàn)此類謠言通常有兩種套路。

一種是“移花接木”演大戲,，AI技術(shù)能把“老照片”“老視頻”變成“新事故”,。此前就有某網(wǎng)民在地震期間，用AI把之前的AI視頻P成“廢墟下的戴帽男孩”,，騙走網(wǎng)友眼淚,。另一種是“煙霧彈”制造恐慌，不少網(wǎng)民為博眼球,，利用AI合成火災(zāi),、地震等災(zāi)害信息并發(fā)布到網(wǎng)絡(luò)平臺，造成不良社會影響,。

專家表示,，隨著AI技術(shù)的不斷普及，編造網(wǎng)絡(luò)謠言的門檻越來越低,，這就讓一些人借機獲取流量并非法牟利,。北京航空航天大學(xué)法學(xué)院副教授趙精武指出，MCN機構(gòu)通過運營自媒體賬號842個,，組織團隊利用AI工具,，一天可以生成4000-7000篇網(wǎng)絡(luò)虛假信息。這類短期內(nèi)利用AI快速生成海量內(nèi)容不同的虛假信息,，降低了謠言編造門檻,，可以讓機構(gòu)迅速獲取流量并借此牟利。

趙精武還表示,，網(wǎng)絡(luò)虛假信息傳播等問題會因為AI等數(shù)字技術(shù)發(fā)展而發(fā)生異化,，這些虛假信息因為“迎合”了部分受眾的情緒，所以會循環(huán)反復(fù)、持續(xù)不斷地出現(xiàn),，使得網(wǎng)絡(luò)虛假信息治理活動成為“持久戰(zhàn)”,。

隨著AI的普及，作品發(fā)布的門檻大幅度降低,，很多網(wǎng)民從“觀眾”轉(zhuǎn)變?yōu)椤皠?chuàng)作者”,。公安部網(wǎng)安局提醒AI創(chuàng)作者要牢記三道法律“防火墻”：一是《生成式人工智能服務(wù)管理暫行辦法》明確禁止發(fā)布利用AI生成虛假信息，違規(guī)者將面臨平臺封禁,、罰款等處罰,；二是《中華人民共和國治安管理處罰法》規(guī)定散布謠言擾亂公共秩序者，最高可處10日拘留,；三是《中華人民共和國刑法》規(guī)定編造虛假險情,、疫情、災(zāi)情等信息,，嚴(yán)重擾亂社會秩序的,，最高可判7年有期徒刑。

對于此類信息傳播活動,，除了需要延續(xù)既有的網(wǎng)絡(luò)虛假信息治理機制之外,，還需要重點對AI信息服務(wù)提供者施加必要的注意義務(wù)，要求其在生成內(nèi)容階段針對“誘導(dǎo)生成謠言”“內(nèi)容明顯失真”等情況設(shè)置相應(yīng)的內(nèi)容屏蔽機制,，并以彈窗或其他方式提醒用戶合理合法使用AI信息服務(wù),。

首頁上一頁 12共 2 頁

(責(zé)任編輯：zx0176)

關(guān)閉

公安部揭秘AI謠言兩大套路 移花接木制造恐慌(2)

相關(guān)新聞

今日熱點

頻道熱點

公安部揭秘AI謠言兩大套路移花接木制造恐慌(2)