當前位置：新聞 > 中國新聞 > 正文

一天寫7000篇,！MCN機構利用AI造謠，細節(jié)曝光

2024-06-14 08:06:13 來源：央視新聞 A+A-

“西安突發(fā)爆炸”“重慶巫溪一民房發(fā)生爆炸事故”……這些聳人聽聞的消息,，竟都是利用AI軟件炮制的謠言,。

近日,，一些不法分子為賺取平臺流量補貼，實現(xiàn)流量變現(xiàn),，利用AI合成技術編造謠言,，嚴重擾亂社會秩序。真相到底如何,？公安機關又將怎樣處理,？一探究竟↓↓↓

有圖未必是真相

違法人員利用AI技術博取流量

今年1月，某網(wǎng)絡平臺出現(xiàn)一條關于“西安爆炸”的消息稱,，當月10日晚,，西安突然響起巨大爆炸聲，文字下方還配發(fā)所謂爆炸的圖片,。消息一經(jīng)發(fā)布,，很快在網(wǎng)上傳播。

經(jīng)調查,，消息的發(fā)布賬號歸屬于江西南昌一家MCN機構,，這家公司的實際控制人為王某某。

經(jīng)核實，民警發(fā)現(xiàn)當?shù)貨]有發(fā)生類似事件,，初步判定該MCN機構發(fā)布的數(shù)條信息涉嫌網(wǎng)絡造謠,，屬不實信息。

警方對王某某進行約談,，得知網(wǎng)上發(fā)布的這條謠言,，從文本到圖片都是通過AI生成的。民警表示,，利用AI軟件生成新聞熱點類文章和圖片,，全程基本不需要人工參與。

國內一網(wǎng)站可提供近期可能生成熱點的新聞報道,，違法人員王某某通過該網(wǎng)站獲取熱點關鍵詞,，并生成文章標題。

王某某通過AI軟件,，給出關鍵詞,，軟件便會自動在網(wǎng)絡上抓取相關信息，生成幾百到上千字的文本,，配上貌似和事件具有相關性的虛假圖片,，從而形成一段看起來信息量很大，實際上子虛烏有的內容,。

一天寫7000篇,！MCN機構利用AI造謠，細節(jié)曝光

通過AI軟件生成內容的方式,，這家MCN機構短時間內生成了大量文章,，最高峰一天能生成4000至7000篇，最高的一條收入700元,，初步估算每天的收入在1萬元以上,。

經(jīng)警方調查，王某某共經(jīng)營5家MCN機構,，運營賬號842個,。自今年1月以來，其中一家MCN機構利用其賬號,，陸續(xù)在某平臺發(fā)布了“西安1月10日發(fā)生爆炸導致建筑,、車輛炸毀、人員傷亡”等多條謠言信息,。

經(jīng)查,，王某某的行為構成傳播謠言，虛構事實,，擾亂公共秩序。目前，南昌警方依據(jù)相關規(guī)定,，依法對王某某處以行政拘留5日,，責令涉案MCN機構停業(yè)整改。

新聞風格+驚險“災情”細節(jié)

此類AI生成謠言更具迷惑性

在重慶,，公安機關查處一起個人利用AI軟件,，編造民房爆炸謠言的案件。這起案件被公安部列為打擊整治網(wǎng)絡謠言違法犯罪典型案例,。該案例利用AI技術,，模仿新聞風格，一鍵生成涉及災情的信息,，以獲取高流量,。

去年12月25日，一則“重慶巫溪一民房發(fā)生爆炸事故,，4人不幸遇難,，官方緊急介入調查”的消息在某網(wǎng)絡平臺發(fā)布，全文500余字,，以新聞報道的口吻,，提供了“發(fā)現(xiàn)了4名遇難者，其中包括一名兒童”“疑似與居民私拉亂接電線有關”等細節(jié),，短時間內獲得數(shù)萬次的點擊量,。

這篇謠言閱讀量暴漲，讓之前在網(wǎng)上發(fā)文沒有任何流量的康某某一開始還有些興奮,。

康某某：之前我發(fā)了20多條內容都沒有收益,，后來看到一個爆炸新聞有好幾十萬的點贊量。我就在網(wǎng)站輸入“重慶”“爆炸”,，它自動生成內容,，我復制它的標題和文章。

一天寫7000篇,！MCN機構利用AI造謠,，細節(jié)曝光