為規(guī)范AI服務和應用，促進行業(yè)健康有序發(fā)展,，保障公民合法權益,，近日,，中央網(wǎng)信辦印發(fā)通知，在全國范圍內部署開展為期3個月的“清朗·整治AI技術濫用”專項行動,。

中央網(wǎng)信辦有關負責人表示,，本次專項行動分兩個階段開展,。第一階段強化AI技術源頭治理,，清理整治違規(guī)AI應用程序,，加強AI生成合成技術和內容標識管理，推動網(wǎng)站平臺提升檢測鑒偽能力,。第二階段聚焦利用AI技術制作發(fā)布謠言,、不實信息、色情低俗內容,，假冒他人,、從事網(wǎng)絡水軍活動等突出問題，集中清理相關違法不良信息,，處置處罰違規(guī)賬號,、MCN機構和網(wǎng)站平臺。

第一階段重點整治6類突出問題：一是違規(guī)AI產(chǎn)品,。利用生成式人工智能技術向公眾提供內容服務,，但未履行大模型備案或登記程序。提供“一鍵脫衣”等違背法律,、倫理的功能,。在未經(jīng)授權同意情況下，克隆,、編輯他人聲音、人臉等生物特征信息,，侵犯他人隱私,。二是傳授、售賣違規(guī)AI產(chǎn)品教程和商品,。傳授利用違規(guī)AI產(chǎn)品偽造換臉視頻,、換聲音頻等教程信息。售賣違規(guī)“語音合成器”“換臉工具”等商品信息,。營銷,、炒作、推廣違規(guī)AI產(chǎn)品信息,。三是訓練語料管理不嚴,。使用侵犯他人知識產(chǎn)權、隱私權等權益的信息,。使用網(wǎng)上爬取的虛假,、無效,、不實內容。使用非法來源數(shù)據(jù),。未建立訓練語料管理機制,，未定期排查清理違規(guī)語料。四是安全管理措施薄弱,。未建立與業(yè)務規(guī)模相適應的內容審核,、意圖識別等安全措施。未建立有效的違規(guī)賬號管理機制,。未定期開展安全自評估,。社交平臺對通過API接口接入的AI自動回復等服務底數(shù)不清、把關不嚴,。五是未落實內容標識要求,。服務提供者未對深度合成內容添加隱式、顯式內容標識,，未向使用者提供或提示顯式內容標識功能,。內容傳播平臺未開展生成合成內容監(jiān)測甄別，導致虛假信息誤導公眾,。六是重點領域安全風險,。已備案AI產(chǎn)品提供醫(yī)療、金融,、未成年人等重點領域問答服務的,，未針對性設置行業(yè)領域安全審核和控制措施，出現(xiàn)“AI開處方”“誘導投資”“AI幻覺”等問題,，誤導學生,、患者，擾亂金融市場秩序,。

第二階段重點整治7類突出問題：一是利用AI制作發(fā)布謠言,。無中生有、憑空捏造涉時事政治,、公共政策,、社會民生、國際關系,、突發(fā)事件等各類謠言信息,，或擅自妄測、惡意解讀重大方針政策,。借突發(fā)案事件,、災難事故等，編造、捏造原因,、進展,、細節(jié)等。冒充官方新聞發(fā)布會或新聞報道,，發(fā)布謠言信息,。利用AI認知偏差生成的內容進行惡意引導。二是利用AI制作發(fā)布不實信息,。將無關圖文,、視頻拼湊剪輯，生成虛實混雜,、半真半假的信息,。模糊修改事件發(fā)生的時間、地點,、人物等要素,，翻炒舊聞。制作發(fā)布涉財經(jīng),、教育,、司法、醫(yī)療衛(wèi)生等專業(yè)領域的夸大,、偽科學等不實內容,。借助AI算命、AI占卜等誤導欺騙網(wǎng)民,，傳播迷信思想,。三是利用AI制作發(fā)布色情低俗內容。利用AI脫衣,、AI繪圖等功能生成合成色情內容或他人不雅圖片,、視頻，衣著暴露,、搔首弄姿等軟色情,、二次元擦邊形象，或扮丑風等導向不良內容,。制作發(fā)布血腥暴力場景，人體扭曲變形,、超現(xiàn)實怪物等恐怖詭譎畫面,。生成合成“小黃文”“葷段子”等性暗示意味明顯的小說、帖文,、筆記,。四是利用AI假冒他人實施侵權違法行為。通過AI換臉、聲音克隆等深度偽造技術,，假冒專家,、企業(yè)家、明星等公眾人物,，欺騙網(wǎng)民,，甚至營銷牟利。借AI對公眾人物或歷史人物進行惡搞,、抹黑,、歪曲、異化,。利用AI冒充親友,，從事網(wǎng)絡詐騙等違法活動。不當使用AI“復活逝者”,，濫用逝者信息,。五是利用AI從事網(wǎng)絡水軍活動。利用AI技術“養(yǎng)號”,，模擬真人批量注冊,、運營社交賬號。利用AI內容農(nóng)場或AI洗稿,，批量生成發(fā)布低質同質化文案,，博取流量。使用AI群控軟件,、社交機器人批量點贊跟帖評論,，刷量控評，制造熱點話題上榜,。六是AI產(chǎn)品服務和應用程序違規(guī),。制作和傳播仿冒、套殼AI網(wǎng)站和應用程序,。AI應用程序提供違規(guī)功能服務,，例如創(chuàng)作類工具提供“熱搜熱榜熱點擴寫成文”等功能，AI社交,、陪聊軟件等提供低俗軟色情對話服務等,。提供違規(guī)AI應用程序、生成合成服務或課程的售賣,、推廣引流等,。七是侵害未成年人權益。AI應用程序誘導未成年人沉迷,、在未成年人模式下存在影響未成年人身心健康的內容等,。

中央網(wǎng)信辦有關負責人強調，各地網(wǎng)信部門要充分認識專項行動對于防范AI技術濫用風險，維護網(wǎng)民合法權益的重要意義,。切實履行屬地管理責任,，督導網(wǎng)站平臺對照專項行動有關要求，健全AI生成合成內容審核機制,，提升技術檢測能力,，做好整改落實。加強人工智能相關政策的宣傳推廣和人工智能素養(yǎng)的科普教育,，引導各方正確認識和應用人工智能技術,，不斷凝聚治理共識。