“西安突發(fā)爆炸”“重慶巫溪一民房發(fā)生爆炸事故”……這些聳人聽聞的消息,，竟都是利用AI軟件炮制的謠言,。

近日,，一些不法分子為賺取平臺流量補貼，實現(xiàn)流量變現(xiàn),，利用AI合成技術(shù)編造謠言，嚴重擾亂社會秩序,。真相到底如何,？公安機關(guān)又將怎樣處理？一探究竟↓↓↓

有圖未必是真相

違法人員利用AI技術(shù)博取流量

今年1月,，某網(wǎng)絡(luò)平臺出現(xiàn)一條關(guān)于“西安爆炸”的消息稱,，當月10日晚，西安突然響起巨大爆炸聲,，文字下方還配發(fā)所謂爆炸的圖片,。消息一經(jīng)發(fā)布,，很快在網(wǎng)上傳播。

經(jīng)調(diào)查，消息的發(fā)布賬號歸屬于江西南昌一家MCN機構(gòu)，這家公司的實際控制人為王某某。

經(jīng)核實,，民警發(fā)現(xiàn)當?shù)貨]有發(fā)生類似事件,，初步判定該MCN機構(gòu)發(fā)布的數(shù)條信息涉嫌網(wǎng)絡(luò)造謠,，屬不實信息,。

警方對王某某進行約談，得知網(wǎng)上發(fā)布的這條謠言,，從文本到圖片都是通過AI生成的,。民警表示,，利用AI軟件生成新聞熱點類文章和圖片,，全程基本不需要人工參與,。

國內(nèi)一網(wǎng)站可提供近期可能生成熱點的新聞報道，違法人員王某某通過該網(wǎng)站獲取熱點關(guān)鍵詞,，并生成文章標題,。

王某某通過AI軟件,，給出關(guān)鍵詞,，軟件便會自動在網(wǎng)絡(luò)上抓取相關(guān)信息,，生成幾百到上千字的文本,，配上貌似和事件具有相關(guān)性的虛假圖片，從而形成一段看起來信息量很大,，實際上子虛烏有的內(nèi)容,。

通過AI軟件生成內(nèi)容的方式,，這家MCN機構(gòu)短時間內(nèi)生成了大量文章，最高峰一天能生成4000至7000篇，最高的一條收入700元，初步估算每天的收入在1萬元以上,。

經(jīng)警方調(diào)查,，王某某共經(jīng)營5家MCN機構(gòu),，運營賬號842個,。自今年1月以來,，其中一家MCN機構(gòu)利用其賬號,，陸續(xù)在某平臺發(fā)布了“西安1月10日發(fā)生爆炸導致建筑,、車輛炸毀,、人員傷亡”等多條謠言信息,。

經(jīng)查,，王某某的行為構(gòu)成傳播謠言，虛構(gòu)事實,，擾亂公共秩序,。目前，南昌警方依據(jù)相關(guān)規(guī)定,，依法對王某某處以行政拘留5日,，責令涉案MCN機構(gòu)停業(yè)整改。

新聞風格+驚險“災情”細節(jié)

此類AI生成謠言更具迷惑性

在重慶,，公安機關(guān)查處一起個人利用AI軟件,，編造民房爆炸謠言的案件。這起案件被公安部列為打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例,。該案例利用AI技術(shù),，模仿新聞風格，一鍵生成涉及災情的信息,，以獲取高流量,。

去年12月25日，一則“重慶巫溪一民房發(fā)生爆炸事故,，4人不幸遇難,，官方緊急介入調(diào)查”的消息在某網(wǎng)絡(luò)平臺發(fā)布，全文500余字,，以新聞報道的口吻,，提供了“發(fā)現(xiàn)了4名遇難者，其中包括一名兒童”“疑似與居民私拉亂接電線有關(guān)”等細節(jié),，短時間內(nèi)獲得數(shù)萬次的點擊量,。

這篇謠言閱讀量暴漲，讓之前在網(wǎng)上發(fā)文沒有任何流量的康某某一開始還有些興奮,。

康某某：之前我發(fā)了20多條內(nèi)容都沒有收益,，后來看到一個爆炸新聞有好幾十萬的點贊量。我就在網(wǎng)站輸入“重慶”“爆炸”,，它自動生成內(nèi)容,，我復制它的標題和文章。

康某某之所以制造謠言,，是因為得知在某知名網(wǎng)絡(luò)平臺創(chuàng)作發(fā)布文章，可以根據(jù)閱讀,、評論,、轉(zhuǎn)發(fā)數(shù)量等獲取相關(guān)流量收益，每千人有效閱讀量有1—2元的獎勵,。但他編造虛假消息博取流量的行為已觸犯法律,。

經(jīng)查證，康某某對其虛構(gòu)事實擾亂公共秩序的違法行為供認不諱,。公安機關(guān)依法對其行政拘留3日,，收繳其違法所得，并封禁其網(wǎng)絡(luò)賬號,。

專家：平臺應履行相應監(jiān)管責任

合理強化違法成本

法學專家表示,，大量不實信息對普通網(wǎng)民來說，有時很難直接判斷是否為謠言,，而平臺對于相關(guān)信息,，應該盡到監(jiān)管責任。

有的網(wǎng)絡(luò)平臺向流量高的內(nèi)容和用戶支付報酬,，在某種程度上會刺激一些想要賺錢的網(wǎng)絡(luò)用戶發(fā)布虛假信息,。專家表示，平臺在刺激創(chuàng)作的同時,，也應盡到消除虛假信息傳播的責任,。

西南政法大學法學院教授陳偉表示,，支付報酬方面,，平臺應行使積極的引導作用，對散布謠言者采取相關(guān)的懲罰機制,。

法律專家建議,，在法律法規(guī)上應讓造謠者付出更大的成本。

陳偉表示,，違法成本在行政處罰里涉及行政拘留,、行政性罰款等，還包括封號這樣的措施,。法律應匹配違法人員的違法成本和他承擔責任之間的比例,，以免其他人看到違法成本過低，遏制作用有限,。

網(wǎng)絡(luò)并非法外之地

對于在互聯(lián)網(wǎng)上

發(fā)布不實言論、擾亂社會秩序的

公安機關(guān)將堅決依法處理

對于造成惡劣影響,、情節(jié)嚴重的

公安機關(guān)將依法追究其法律責任