上海市消保委也注意到了最近日益增加的AI假冒名人的視頻,。
上海市消費(fèi)者權(quán)益保護(hù)委員會副秘書長唐健盛:我們關(guān)注到現(xiàn)在這種虛擬人直播帶貨的情況,,也是越來越多了。有不法商家通過AI手段去冒用張文宏老師的形象和聲音,,做的假的直播帶貨,,這種行為我們覺得是對消費(fèi)者合法權(quán)的侵害,因?yàn)樗褪且粋€(gè)赤裸裸的欺詐消費(fèi)者行為,。
AI模仿他人技術(shù)成熟可輕松克隆臉和聲音
現(xiàn)在的AI技術(shù)在克隆他人面部和聲音上,,到底發(fā)展到了什么程度?專家介紹,,目前模仿他人的聲音和臉的技術(shù)已經(jīng)非常成熟,提供一張照片就能做出換臉的效果,,他人的聲音也能被輕易模仿,。
中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會專家薛智慧:通過人工智能技術(shù),將臉進(jìn)行替換,。聲音需要有一個(gè)語言的模型,,語言模型里邊被模仿者的聲音進(jìn)行合成,實(shí)現(xiàn)音色的克隆,。
技術(shù)人員現(xiàn)場做了一個(gè)測試,,將事先錄制好的視頻換成記者的臉和聲音。首先記者給技術(shù)人員提供了一張證件照片,,不到兩分鐘,,通過軟件的渲染,視頻的人臉就換成了記者的臉,。
隨后是聲音的AI制作,。記者現(xiàn)場錄制了一段聲音輸入到AI資料庫中,很快AI就能用記者的聲音播報(bào)任何的文本內(nèi)容,。
AI制作的換臉和聲音的視頻完成后,,將兩段視頻合成后出來的效果非常逼真。
AI模仿度高但并非毫無破綻
專家表示,,AI模仿度高但是并非毫無破綻,。
首先,這種既要換臉又要換聲的操作,,只能制作視頻,,無法做到實(shí)時(shí)直播。