“西安突發(fā)爆炸”“重慶巫溪一民房發(fā)生爆炸事故”……這些聳人聽聞的消息,竟都是利用AI軟件炮制的謠言,。
近日,,一些不法分子為賺取平臺流量補貼,,實現(xiàn)流量變現(xiàn),利用AI合成技術(shù)編造謠言,,嚴(yán)重擾亂社會秩序,。真相到底如何?公安機關(guān)又將怎樣處理,?一探究竟↓↓↓
有圖未必是真相
違法人員利用AI技術(shù)博取流量
今年1月,,某網(wǎng)絡(luò)平臺出現(xiàn)一條關(guān)于“西安爆炸”的消息稱,當(dāng)月10日晚,,西安突然響起巨大爆炸聲,,文字下方還配發(fā)所謂爆炸的圖片,。消息一經(jīng)發(fā)布,很快在網(wǎng)上傳播,。
經(jīng)調(diào)查,,消息的發(fā)布賬號歸屬于江西南昌一家MCN機構(gòu),這家公司的實際控制人為王某某,。
經(jīng)核實,,民警發(fā)現(xiàn)當(dāng)?shù)貨]有發(fā)生類似事件,初步判定該MCN機構(gòu)發(fā)布的數(shù)條信息涉嫌網(wǎng)絡(luò)造謠,,屬不實信息,。
警方對王某某進行約談,得知網(wǎng)上發(fā)布的這條謠言,,從文本到圖片都是通過AI生成的,。民警表示,利用AI軟件生成新聞熱點類文章和圖片,,全程基本不需要人工參與,。
國內(nèi)一網(wǎng)站可提供近期可能生成熱點的新聞報道,違法人員王某某通過該網(wǎng)站獲取熱點關(guān)鍵詞,,并生成文章標(biāo)題,。
王某某通過AI軟件,給出關(guān)鍵詞,,軟件便會自動在網(wǎng)絡(luò)上抓取相關(guān)信息,,生成幾百到上千字的文本,配上貌似和事件具有相關(guān)性的虛假圖片,,從而形成一段看起來信息量很大,,實際上子虛烏有的內(nèi)容。
通過AI軟件生成內(nèi)容的方式,這家MCN機構(gòu)短時間內(nèi)生成了大量文章,,最高峰一天能生成4000至7000篇,,最高的一條收入700元,初步估算每天的收入在1萬元以上,。