當前位置：新聞 > 中國新聞 > 正文

一天寫7000篇,！MCN機構(gòu)利用AI造謠,，細節(jié)曝光

2024-06-14 08:06:13 來源：央視新聞 A+A-

“西安突發(fā)爆炸”“重慶巫溪一民房發(fā)生爆炸事故”……這些聳人聽聞的消息，竟都是利用AI軟件炮制的謠言,。

近日,，一些不法分子為賺取平臺流量補貼，實現(xiàn)流量變現(xiàn),，利用AI合成技術(shù)編造謠言,，嚴重擾亂社會秩序。真相到底如何,？公安機關(guān)又將怎樣處理,？一探究竟↓↓↓

有圖未必是真相

違法人員利用AI技術(shù)博取流量

今年1月，某網(wǎng)絡平臺出現(xiàn)一條關(guān)于“西安爆炸”的消息稱,，當月10日晚,，西安突然響起巨大爆炸聲，文字下方還配發(fā)所謂爆炸的圖片,。消息一經(jīng)發(fā)布,，很快在網(wǎng)上傳播。

經(jīng)調(diào)查,，消息的發(fā)布賬號歸屬于江西南昌一家MCN機構(gòu),，這家公司的實際控制人為王某某。

經(jīng)核實,，民警發(fā)現(xiàn)當?shù)貨]有發(fā)生類似事件,，初步判定該MCN機構(gòu)發(fā)布的數(shù)條信息涉嫌網(wǎng)絡造謠，屬不實信息,。

警方對王某某進行約談,，得知網(wǎng)上發(fā)布的這條謠言，從文本到圖片都是通過AI生成的,。民警表示,，利用AI軟件生成新聞熱點類文章和圖片，全程基本不需要人工參與,。

國內(nèi)一網(wǎng)站可提供近期可能生成熱點的新聞報道,，違法人員王某某通過該網(wǎng)站獲取熱點關(guān)鍵詞，并生成文章標題,。

王某某通過AI軟件,，給出關(guān)鍵詞，軟件便會自動在網(wǎng)絡上抓取相關(guān)信息,，生成幾百到上千字的文本,，配上貌似和事件具有相關(guān)性的虛假圖片,，從而形成一段看起來信息量很大，實際上子虛烏有的內(nèi)容,。

一天寫7000篇,！MCN機構(gòu)利用AI造謠，細節(jié)曝光

通過AI軟件生成內(nèi)容的方式,，這家MCN機構(gòu)短時間內(nèi)生成了大量文章,，最高峰一天能生成4000至7000篇，最高的一條收入700元,，初步估算每天的收入在1萬元以上,。

經(jīng)警方調(diào)查，王某某共經(jīng)營5家MCN機構(gòu),，運營賬號842個,。自今年1月以來，其中一家MCN機構(gòu)利用其賬號,，陸續(xù)在某平臺發(fā)布了“西安1月10日發(fā)生爆炸導致建筑,、車輛炸毀、人員傷亡”等多條謠言信息,。

經(jīng)查,，王某某的行為構(gòu)成傳播謠言，虛構(gòu)事實,，擾亂公共秩序,。目前,，南昌警方依據(jù)相關(guān)規(guī)定,，依法對王某某處以行政拘留5日，責令涉案MCN機構(gòu)停業(yè)整改,。

新聞風格+驚險“災情”細節(jié)

此類AI生成謠言更具迷惑性

在重慶,，公安機關(guān)查處一起個人利用AI軟件，編造民房爆炸謠言的案件,。這起案件被公安部列為打擊整治網(wǎng)絡謠言違法犯罪典型案例,。該案例利用AI技術(shù)，模仿新聞風格,，一鍵生成涉及災情的信息,，以獲取高流量。

去年12月25日,，一則“重慶巫溪一民房發(fā)生爆炸事故,，4人不幸遇難，官方緊急介入調(diào)查”的消息在某網(wǎng)絡平臺發(fā)布,，全文500余字,，以新聞報道的口吻,，提供了“發(fā)現(xiàn)了4名遇難者，其中包括一名兒童”“疑似與居民私拉亂接電線有關(guān)”等細節(jié),，短時間內(nèi)獲得數(shù)萬次的點擊量,。

這篇謠言閱讀量暴漲，讓之前在網(wǎng)上發(fā)文沒有任何流量的康某某一開始還有些興奮,。

康某某：之前我發(fā)了20多條內(nèi)容都沒有收益,，后來看到一個爆炸新聞有好幾十萬的點贊量。我就在網(wǎng)站輸入“重慶”“爆炸”,，它自動生成內(nèi)容,，我復制它的標題和文章。

一天寫7000篇,！MCN機構(gòu)利用AI造謠,，細節(jié)曝光