為規(guī)范AI服務(wù)和應(yīng)用，促進(jìn)行業(yè)健康有序發(fā)展，保障公民合法權(quán)益,，近日，中央網(wǎng)信辦印發(fā)通知,，在全國(guó)范圍內(nèi)部署開展為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)。

中央網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,，本次專項(xiàng)行動(dòng)分兩個(gè)階段開展,。第一階段強(qiáng)化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序,，加強(qiáng)AI生成合成技術(shù)和內(nèi)容標(biāo)識(shí)管理,，推動(dòng)網(wǎng)站平臺(tái)提升檢測(cè)鑒偽能力。第二階段聚焦利用AI技術(shù)制作發(fā)布謠言,、不實(shí)信息,、色情低俗內(nèi)容，假冒他人,、從事網(wǎng)絡(luò)水軍活動(dòng)等突出問題,，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號(hào),、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。

第一階段重點(diǎn)整治6類突出問題：一是違規(guī)AI產(chǎn)品,。利用生成式人工智能技術(shù)向公眾提供內(nèi)容服務(wù),，但未履行大模型備案或登記程序。提供“一鍵脫衣”等違背法律,、倫理的功能,。在未經(jīng)授權(quán)同意情況下，克隆,、編輯他人聲音,、人臉等生物特征信息，侵犯他人隱私,。二是傳授,、售賣違規(guī)AI產(chǎn)品教程和商品。傳授利用違規(guī)AI產(chǎn)品偽造換臉視頻,、換聲音頻等教程信息,。售賣違規(guī)“語音合成器”“換臉工具”等商品信息。營(yíng)銷,、炒作,、推廣違規(guī)AI產(chǎn)品信息。三是訓(xùn)練語料管理不嚴(yán),。使用侵犯他人知識(shí)產(chǎn)權(quán),、隱私權(quán)等權(quán)益的信息,。使用網(wǎng)上爬取的虛假、無效,、不實(shí)內(nèi)容,。使用非法來源數(shù)據(jù)。未建立訓(xùn)練語料管理機(jī)制,，未定期排查清理違規(guī)語料,。四是安全管理措施薄弱。未建立與業(yè)務(wù)規(guī)模相適應(yīng)的內(nèi)容審核,、意圖識(shí)別等安全措施,。未建立有效的違規(guī)賬號(hào)管理機(jī)制。未定期開展安全自評(píng)估,。社交平臺(tái)對(duì)通過API接口接入的AI自動(dòng)回復(fù)等服務(wù)底數(shù)不清,、把關(guān)不嚴(yán)。五是未落實(shí)內(nèi)容標(biāo)識(shí)要求,。服務(wù)提供者未對(duì)深度合成內(nèi)容添加隱式,、顯式內(nèi)容標(biāo)識(shí)，未向使用者提供或提示顯式內(nèi)容標(biāo)識(shí)功能,。內(nèi)容傳播平臺(tái)未開展生成合成內(nèi)容監(jiān)測(cè)甄別,，導(dǎo)致虛假信息誤導(dǎo)公眾。六是重點(diǎn)領(lǐng)域安全風(fēng)險(xiǎn),。已備案AI產(chǎn)品提供醫(yī)療,、金融、未成年人等重點(diǎn)領(lǐng)域問答服務(wù)的,，未針對(duì)性設(shè)置行業(yè)領(lǐng)域安全審核和控制措施,，出現(xiàn)“AI開處方”“誘導(dǎo)投資”“AI幻覺”等問題，誤導(dǎo)學(xué)生,、患者,，擾亂金融市場(chǎng)秩序。