新華社上海5月13日電　題：名人“畫皮”、換臉惡搞,、色情合成——AI視頻換臉技術(shù)濫用調(diào)查

新華社記者蘭天鳴

隨著AI技術(shù)發(fā)展，視頻換臉技術(shù)門檻降低,，普通人也能制作換臉視頻,。記者調(diào)查發(fā)現(xiàn),，這項(xiàng)技術(shù)被用于惡搞視頻、色情視頻合成上,，其不良效應(yīng)也引發(fā)了社會(huì)的關(guān)注和擔(dān)憂：放任自流,，任其“異化”，可能成為侵害他人合法權(quán)益和危害社會(huì)公共安全的工具,。

　　“你要的樣子我都有”,，AI“畫皮”只需2.5元

“你要的樣子我都有”“男人瞬間變女人,毫無違和感”“用朋友圈視頻就可換臉”……近日，AI換臉視頻在不少平臺(tái)上風(fēng)靡,。記者在嗶哩嗶哩網(wǎng)站搜索“換臉”,，出來的視頻達(dá)千條。

其中,，有網(wǎng)友將影視劇中不同演員的臉進(jìn)行互換,；有人將某平臺(tái)女主播瞬間“變臉”成不同女明星的樣貌；還有人則制造“假新聞”,，把國外電視節(jié)目嘉賓的臉換成國內(nèi)公眾人物的,，標(biāo)題則為國內(nèi)某某在國外接受采訪……

視頻中的人物被換臉后，幾乎可以“以假亂真”,，有網(wǎng)友評(píng)論其為“AI畫皮”“有圖未必有真相”“細(xì)思極恐”,。

在“deepfake”的貼吧里，與AI換臉有關(guān)的帖子超過9000條,。里面有大量明星換臉視頻的售賣信息,。一個(gè)名為“合成聯(lián)盟”的用戶在群里公開售賣換臉色情視頻，清單里的數(shù)量達(dá)150多部,，并稱“白菜價(jià)全部只要58元”,。在名為“明星論壇”的論壇上，有人貼出了多個(gè)換臉視頻色情網(wǎng)站網(wǎng)址,。

記者在淘寶網(wǎng)上搜索“AI換臉”“deepfake”等,，出現(xiàn)了不少換臉軟件售賣信息，包括“商業(yè)背書視頻”“明星偶像互動(dòng)視頻”“惡搞視頻”,，并號(hào)稱“動(dòng)作逼真清晰”,。有的還提供換臉視頻制作服務(wù)，一個(gè)淘寶ID為“專業(yè)定制換臉視頻”的賣家表示,，可以代為制作換臉視頻,，三分鐘以內(nèi)的價(jià)格為300元。