上海市消保委也注意到了最近日益增加的AI假冒名人的視頻,。
上海市消費(fèi)者權(quán)益保護(hù)委員會(huì)副秘書長(zhǎng)唐健盛:我們關(guān)注到現(xiàn)在這種虛擬人直播帶貨的情況,,也是越來(lái)越多了。有不法商家通過(guò)AI手段去冒用張文宏老師的形象和聲音,,做的假的直播帶貨,,這種行為我們覺(jué)得是對(duì)消費(fèi)者合法權(quán)的侵害,因?yàn)樗褪且粋€(gè)赤裸裸的欺詐消費(fèi)者行為,。
AI模仿他人技術(shù)成熟可輕松克隆臉和聲音
現(xiàn)在的AI技術(shù)在克隆他人面部和聲音上,,到底發(fā)展到了什么程度?專家介紹,,目前模仿他人的聲音和臉的技術(shù)已經(jīng)非常成熟,,提供一張照片就能做出換臉的效果,他人的聲音也能被輕易模仿,。
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)專家薛智慧:通過(guò)人工智能技術(shù),,將臉進(jìn)行替換。聲音需要有一個(gè)語(yǔ)言的模型,,語(yǔ)言模型里邊被模仿者的聲音進(jìn)行合成,,實(shí)現(xiàn)音色的克隆。
技術(shù)人員現(xiàn)場(chǎng)做了一個(gè)測(cè)試,,將事先錄制好的視頻換成記者的臉和聲音,。首先記者給技術(shù)人員提供了一張證件照片,不到兩分鐘,,通過(guò)軟件的渲染,,視頻的人臉就換成了記者的臉。
隨后是聲音的AI制作,。記者現(xiàn)場(chǎng)錄制了一段聲音輸入到AI資料庫(kù)中,,很快AI就能用記者的聲音播報(bào)任何的文本內(nèi)容。
AI制作的換臉和聲音的視頻完成后,,將兩段視頻合成后出來(lái)的效果非常逼真,。
AI模仿度高但并非毫無(wú)破綻
專家表示,AI模仿度高但是并非毫無(wú)破綻,。
首先,,這種既要換臉又要換聲的操作,只能制作視頻,,無(wú)法做到實(shí)時(shí)直播,。