第二階段重點(diǎn)整治7類突出問題：一是利用AI制作發(fā)布謠言,。無中生有,、憑空捏造涉時(shí)事政治,、公共政策,、社會民生、國際關(guān)系,、突發(fā)事件等各類謠言信息,，或擅自妄測、惡意解讀重大方針政策,。借突發(fā)案事件,、災(zāi)難事故等，編造,、捏造原因,、進(jìn)展,、細(xì)節(jié)等。冒充官方新聞發(fā)布會或新聞報(bào)道,，發(fā)布謠言信息,。利用AI認(rèn)知偏差生成的內(nèi)容進(jìn)行惡意引導(dǎo)。二是利用AI制作發(fā)布不實(shí)信息,。將無關(guān)圖文,、視頻拼湊剪輯，生成虛實(shí)混雜,、半真半假的信息,。模糊修改事件發(fā)生的時(shí)間、地點(diǎn),、人物等要素,，翻炒舊聞。制作發(fā)布涉財(cái)經(jīng),、教育,、司法,、醫(yī)療衛(wèi)生等專業(yè)領(lǐng)域的夸大,、偽科學(xué)等不實(shí)內(nèi)容。借助AI算命,、AI占卜等誤導(dǎo)欺騙網(wǎng)民,，傳播迷信思想。三是利用AI制作發(fā)布色情低俗內(nèi)容,。利用AI脫衣,、AI繪圖等功能生成合成色情內(nèi)容或他人不雅圖片、視頻,，衣著暴露,、搔首弄姿等軟色情、二次元擦邊形象,，或扮丑風(fēng)等導(dǎo)向不良內(nèi)容,。制作發(fā)布血腥暴力場景，人體扭曲變形,、超現(xiàn)實(shí)怪物等恐怖詭譎畫面,。生成合成“小黃文”“葷段子”等性暗示意味明顯的小說、帖文,、筆記,。四是利用AI假冒他人實(shí)施侵權(quán)違法行為。通過AI換臉,、聲音克隆等深度偽造技術(shù),，假冒專家,、企業(yè)家、明星等公眾人物,，欺騙網(wǎng)民,，甚至營銷牟利。借AI對公眾人物或歷史人物進(jìn)行惡搞,、抹黑,、歪曲、異化,。利用AI冒充親友,，從事網(wǎng)絡(luò)詐騙等違法活動。不當(dāng)使用AI“復(fù)活逝者”,，濫用逝者信息,。五是利用AI從事網(wǎng)絡(luò)水軍活動。利用AI技術(shù)“養(yǎng)號”,，模擬真人批量注冊,、運(yùn)營社交賬號。利用AI內(nèi)容農(nóng)場或AI洗稿,，批量生成發(fā)布低質(zhì)同質(zhì)化文案,，博取流量。使用AI群控軟件,、社交機(jī)器人批量點(diǎn)贊跟帖評論,，刷量控評，制造熱點(diǎn)話題上榜,。六是AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī),。制作和傳播仿冒、套殼AI網(wǎng)站和應(yīng)用程序,。AI應(yīng)用程序提供違規(guī)功能服務(wù),，例如創(chuàng)作類工具提供“熱搜熱榜熱點(diǎn)擴(kuò)寫成文”等功能，AI社交,、陪聊軟件等提供低俗軟色情對話服務(wù)等,。提供違規(guī)AI應(yīng)用程序、生成合成服務(wù)或課程的售賣,、推廣引流等,。七是侵害未成年人權(quán)益。AI應(yīng)用程序誘導(dǎo)未成年人沉迷,、在未成年人模式下存在影響未成年人身心健康的內(nèi)容等,。

中央網(wǎng)信辦有關(guān)負(fù)責(zé)人強(qiáng)調(diào)，各地網(wǎng)信部門要充分認(rèn)識專項(xiàng)行動對于防范AI技術(shù)濫用風(fēng)險(xiǎn)，維護(hù)網(wǎng)民合法權(quán)益的重要意義,。切實(shí)履行屬地管理責(zé)任,，督導(dǎo)網(wǎng)站平臺對照專項(xiàng)行動有關(guān)要求，健全AI生成合成內(nèi)容審核機(jī)制,，提升技術(shù)檢測能力,，做好整改落實(shí)。加強(qiáng)人工智能相關(guān)政策的宣傳推廣和人工智能素養(yǎng)的科普教育,，引導(dǎo)各方正確認(rèn)識和應(yīng)用人工智能技術(shù),，不斷凝聚治理共識。