新華社評警惕“AI污染”亂象

近日，新華社發(fā)文對AI提出批評，指出生成式人工智能在全球范圍內(nèi)掀起熱潮,，為許多行業(yè)和網(wǎng)民帶來益處,。然而，這種技術(shù)也引發(fā)了一些負(fù)面問題,，尤其是由“信息垃圾”導(dǎo)致的“AI污染”越來越突出。

隨著AI技術(shù)迅速發(fā)展，互聯(lián)網(wǎng)內(nèi)容生產(chǎn)力經(jīng)歷了革命性變化,，但也帶來了一系列問題。在某些熱門社交平臺上,，大量AI生成的虛假賬號充斥其中,；某小說平臺上的賬號依靠AI創(chuàng)作，一天可更新50部小說,，月更字?jǐn)?shù)上千萬,，但行文常常邏輯不通、辭藻空洞,；甚至在學(xué)術(shù)界,，某頂尖高校學(xué)者在SCI發(fā)表的論文因插圖為AI生成且錯誤百出,，僅發(fā)表三天就被撤稿，成為學(xué)界笑柄,。

AI帶來的負(fù)面影響越來越多,，特別是在新聞和信息傳播領(lǐng)域。AI可以生成,、偽造或篡改文本,、圖片、音頻和視頻,，產(chǎn)生大量粗制濫造,、真假難辨的信息垃圾，這需要進(jìn)行全面審視,。

AI的發(fā)展為新聞領(lǐng)域帶來了翻天覆地的變化,，從傳統(tǒng)的人工采編模式逐漸向智能化、高效化的方向轉(zhuǎn)變,。然而,，人工智能可能會復(fù)制或放大現(xiàn)有數(shù)據(jù)中的錯誤，生成虛假信息和宣傳,，新聞機(jī)構(gòu)在使用AI時面臨保持真實性和公信力的重大挑戰(zhàn),。一些MCN機(jī)構(gòu)為了博取流量，通過AI軟件生成虛假新聞,，導(dǎo)致大量網(wǎng)絡(luò)謠言病毒式傳播,。今年6月中旬，一家MCN機(jī)構(gòu)的實際控制人王某某因利用AI軟件生成虛假新聞并大肆傳播,，擾亂公共秩序,，被警方行政拘留。據(jù)警方通報,，王某某共經(jīng)營5家MCN機(jī)構(gòu),，運(yùn)營賬號842個，自今年1月以來,，王某某通過AI軟件生成虛假新聞,，最高峰一天能生成4000至7000篇。

清華大學(xué)新聞與傳播學(xué)院新媒體研究中心今年4月發(fā)布的一份研究報告顯示,，近一年來,，經(jīng)濟(jì)與企業(yè)類AI謠言量增速達(dá)99.91%。美國調(diào)查機(jī)構(gòu)“新聞守衛(wèi)”稱,，生成虛假文章的網(wǎng)站數(shù)量自2023年5月以來激增1000%以上,，涉及15種語言。一些專家認(rèn)為,，AI制造的信息垃圾產(chǎn)量龐大,，辨別難度較大,，篩選成本較高。

版權(quán)歸屬問題也變得復(fù)雜,。傳統(tǒng)版權(quán)通常歸屬于創(chuàng)作者或其雇主,，但AI版權(quán)可能歸屬于訓(xùn)練數(shù)據(jù)提供者、算法開發(fā)者,、系統(tǒng)操作者甚至最終用戶,，這導(dǎo)致新聞和出版機(jī)構(gòu)在面對科技企業(yè)推出的AI工具整合新聞和內(nèi)容時，可能損失相關(guān)流量和廣告收入,。當(dāng)?shù)貢r間10月21日,，《華爾街日報》母公司道瓊斯和《紐約郵報》對人工智能初創(chuàng)公司Perplexity提出侵權(quán)訴訟，指控后者抄襲受版權(quán)保護(hù)的新聞內(nèi)容,，并利用這些內(nèi)容生成對用戶提問的回復(fù),，搶走了原本會流向這兩家出版商網(wǎng)站的流量。而在一周前的10月15日,，Perplexity剛剛收到了來自《紐約時報》的警告,，要求其在10月30日前停止使用《紐約時報》的內(nèi)容。

應(yīng)對這些問題,，建議加大對AI學(xué)習(xí)和生成機(jī)制的源頭治理,，明確AI平臺對源頭素材的把控責(zé)任和對生成內(nèi)容的監(jiān)管責(zé)任，完善AI內(nèi)容生成規(guī)則,，強(qiáng)制對AI生成內(nèi)容打上顯著標(biāo)識,，提升AI技術(shù)的透明度和可解釋性。同時,，加強(qiáng)對AI生成內(nèi)容的篩查監(jiān)管,，開發(fā)相關(guān)的審查算法，規(guī)范生成內(nèi)容向輿論場的流入及傳播途徑,，及時發(fā)現(xiàn)并刪除低質(zhì)量或虛假內(nèi)容,。提高用戶對AI生成內(nèi)容的辨別能力，理性對待互聯(lián)網(wǎng)信息,，增強(qiáng)防范意識和識別能力，使用反向搜索工具檢查內(nèi)容來源和作者信息,，分析內(nèi)容的語言和結(jié)構(gòu)特征,，從而鑒別真?zhèn)巍?/p>

對于新聞從業(yè)者，應(yīng)明確AI應(yīng)用邊界,，確定哪些新聞內(nèi)容可以由AI生成,，哪些必須由人工撰寫。例如,，重大時政新聞,、深度調(diào)查報道等需要高度準(zhǔn)確性和專業(yè)判斷的內(nèi)容應(yīng)禁止使用AI生成,，確保新聞的權(quán)威性和可靠性。此外,，規(guī)范AI在新聞編輯,、分發(fā)等環(huán)節(jié)的使用，避免過度依賴人工智能導(dǎo)致新聞質(zhì)量下降,。提高新聞從業(yè)人員和公眾對AI生成內(nèi)容的辨別能力也是重要措施,，通過培訓(xùn)和教育使新聞從業(yè)人員了解AI的工作原理和特點，掌握辨別AI生成內(nèi)容的方法和技巧,。

AI的發(fā)展勢不可擋,，它為人類帶來了前所未有的機(jī)遇和挑戰(zhàn)。我們既要充分發(fā)揮AI的優(yōu)勢,，又要高度重視其帶來的問題,，加強(qiáng)監(jiān)管和治理，共同維護(hù)良好的網(wǎng)絡(luò)生態(tài)環(huán)境,。