上海市消保委也注意到了最近日益增加的AI假冒名人的視頻。
上海市消費(fèi)者權(quán)益保護(hù)委員會(huì)副秘書(shū)長(zhǎng)唐健盛:我們關(guān)注到現(xiàn)在這種虛擬人直播帶貨的情況,,也是越來(lái)越多了,。有不法商家通過(guò)AI手段去冒用張文宏老師的形象和聲音,做的假的直播帶貨,,這種行為我們覺(jué)得是對(duì)消費(fèi)者合法權(quán)的侵害,,因?yàn)樗褪且粋€(gè)赤裸裸的欺詐消費(fèi)者行為。
AI模仿他人技術(shù)成熟可輕松克隆臉和聲音
現(xiàn)在的AI技術(shù)在克隆他人面部和聲音上,,到底發(fā)展到了什么程度,?專家介紹,目前模仿他人的聲音和臉的技術(shù)已經(jīng)非常成熟,,提供一張照片就能做出換臉的效果,,他人的聲音也能被輕易模仿。
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)專家薛智慧:通過(guò)人工智能技術(shù),將臉進(jìn)行替換,。聲音需要有一個(gè)語(yǔ)言的模型,,語(yǔ)言模型里邊被模仿者的聲音進(jìn)行合成,實(shí)現(xiàn)音色的克隆,。
技術(shù)人員現(xiàn)場(chǎng)做了一個(gè)測(cè)試,,將事先錄制好的視頻換成記者的臉和聲音。首先記者給技術(shù)人員提供了一張證件照片,,不到兩分鐘,,通過(guò)軟件的渲染,視頻的人臉就換成了記者的臉,。
隨后是聲音的AI制作,。記者現(xiàn)場(chǎng)錄制了一段聲音輸入到AI資料庫(kù)中,很快AI就能用記者的聲音播報(bào)任何的文本內(nèi)容,。
AI制作的換臉和聲音的視頻完成后,,將兩段視頻合成后出來(lái)的效果非常逼真。
AI模仿度高但并非毫無(wú)破綻
專家表示,,AI模仿度高但是并非毫無(wú)破綻,。
首先,這種既要換臉又要換聲的操作,,只能制作視頻,,無(wú)法做到實(shí)時(shí)直播。