如今，從智能家居的語音助手到自動駕駛汽車,，從高效能的數(shù)據(jù)分析到醫(yī)療領域的精準診斷,，AI正以前所未有的方式改變著世界。然而,，隨著AI技術的不斷發(fā)展和應用,，其雙刃劍的特性也逐漸顯現(xiàn)。其中,，深度偽造技術就帶來了不小的隱患,。

所謂的深度偽造技術，是一種利用人工智能算法生成高度逼真但并非真實的視頻或圖像的技術,。通過深度學習算法,，深度偽造技術能夠分析大量的真實視頻或圖像數(shù)據(jù)，從而學習到特定人物或場景的特征,，并生成與之極為相似的虛假內(nèi)容,。這種技術的出現(xiàn),，使得造假變得更加容易和難以辨別，給社會帶來了諸多安全隱患,。

今年以來AI深度偽造假冒名人的事件時有發(fā)生,，不久前，就有人利用AI技術,，深度偽造了張文宏醫(yī)生的臉部和聲音進行直播帶貨,。在這段視頻中，被合成的人像反復介紹一種產(chǎn)品,，聲音也很像張文宏本人,，商品中的蛋白棒產(chǎn)品已經(jīng)售賣了1200多件。目前該賬號已經(jīng)搜索不到,。而張文宏醫(yī)生本人對有人利用AI模仿自己帶貨的行為也非常氣憤,。

張文宏醫(yī)生：這個事情已經(jīng)有幾個星期了，一開始我也是投訴,。特別是對AI不是很熟悉的年紀比較大的市民,，他們很容易就會相信。

用AI制作,，假冒名人欺騙網(wǎng)民的現(xiàn)象,，張文宏事件并非個例。今年國慶期間就有人用企業(yè)家雷軍的聲音和頭像制作了眾多惡搞視頻,。

也有人AI制作了劉德華的聲音為自己增加流量,。該視頻出現(xiàn)后，劉德華電影公司連續(xù)發(fā)布兩則聲明,，提醒各方人士注意,，避免落入偽造劉德華聲音的AI語音合成技術騙局。

上海市消保委也注意到了最近日益增加的AI假冒名人的視頻,。

上海市消費者權益保護委員會副秘書長唐健盛：我們關注到現(xiàn)在這種虛擬人直播帶貨的情況，也是越來越多了,。有不法商家通過AI手段去冒用張文宏老師的形象和聲音,，做的假的直播帶貨，這種行為我們覺得是對消費者合法權的侵害,，因為它就是一個赤裸裸的欺詐消費者行為,。

AI模仿他人技術成熟可輕松克隆臉和聲音

現(xiàn)在的AI技術在克隆他人面部和聲音上，到底發(fā)展到了什么程度,？專家介紹,，目前模仿他人的聲音和臉的技術已經(jīng)非常成熟，提供一張照片就能做出換臉的效果,，他人的聲音也能被輕易模仿,。

中國網(wǎng)絡空間安全協(xié)會人工智能安全治理專業(yè)委員會專家薛智慧：通過人工智能技術,，將臉進行替換。聲音需要有一個語言的模型,，語言模型里邊被模仿者的聲音進行合成,，實現(xiàn)音色的克隆。

技術人員現(xiàn)場做了一個測試,，將事先錄制好的視頻換成記者的臉和聲音,。首先記者給技術人員提供了一張證件照片，不到兩分鐘,，通過軟件的渲染,，視頻的人臉就換成了記者的臉。

隨后是聲音的AI制作,。記者現(xiàn)場錄制了一段聲音輸入到AI資料庫中,，很快AI就能用記者的聲音播報任何的文本內(nèi)容。

AI制作的換臉和聲音的視頻完成后,，將兩段視頻合成后出來的效果非常逼真,。

AI模仿度高但并非毫無破綻

專家表示，AI模仿度高但是并非毫無破綻,。

• 首先,，這種既要換臉又要換聲的操作，只能制作視頻,，無法做到實時直播,。

• 其次，觀眾通過仔細辨認視頻,，也能看出AI的痕跡,。

專家提醒，辨別時可以重點關注視頻中人臉的變換,，包括人臉輪廓和背景環(huán)境融合度,、協(xié)調(diào)度等。另外,，在語音,、語速和口型的匹配度上，也可以去重點關注,。

未經(jīng)授權利用AI假冒他人屬違法行為

那么,，是否可以利用AI深度偽造技術隨意將名人形象為己所用呢？專家表示,，那些未經(jīng)過授權使用他人形象的行為,，均屬于違法行為。

中國政法大學副教授朱?。?/strong>我們現(xiàn)在看到的一些編輯的人臉,，包括聲音在內(nèi),，實際上按照民法典的規(guī)定，這個都屬于當事人權利人自己的人格權利,，未經(jīng)允許,，任何人不得侵害。不僅不能直接用,，也不能使用當事人的人臉信息,、聲音信息進行深度合成，不能放到深度合成的物料庫里或場景庫里,。同時,，他經(jīng)過編輯的肖像和聲音，用這種方式去展現(xiàn)一個相關內(nèi)容,，這屬于偽造的信息,。按照網(wǎng)絡安全法的規(guī)定，這屬于違法信息,。

另外法律專家表示,，AI假冒名人發(fā)表自己的作品，有可能會追究發(fā)布者的刑事責任,。

中國政法大學副教授朱?。?/strong>未經(jīng)權利人同意隨便使用別人的肖像和聲音并對外發(fā)布，按照民法典的規(guī)定是一種侵權責任,，要承擔包括損害賠償,、精神損害賠償在內(nèi)的相關責任。如果把相關視頻,，包括聲音編輯之后,，形成了相關內(nèi)容。這個內(nèi)容如果違反網(wǎng)絡安全法的相關規(guī)定,，當事人可能要承擔包括刑事責任在內(nèi)的法律責任,。

購買AI假冒名人帶貨產(chǎn)品可要求退一賠三

專家表示AI假冒名人進行帶貨這樣的行為，已經(jīng)涉嫌違法,，一旦消費者信以為真購買了產(chǎn)品,，可以要求商家退一賠三。

上海市消費者權益保護委員會副秘書長唐健盛：消費者權益保護法明確規(guī)定,，如果消費者遭到了欺詐，可以按照消費者權益保護法的規(guī)定要求不法商家進行賠償,。具體的賠償標準就是退一賠三,，如果不足500元，消費者完全可以要求商家按照500元進行相關的賠償,。

專家表示,，短視頻平臺也應該擔負主體責任,，有義務防范AI假冒名人視頻在自己的平臺大量傳播。

中國政法大學副教授朱?。?/strong>如果發(fā)現(xiàn)利用AI合成的聲頻和視頻傳播虛假消息,，并不是僅僅把視頻刪掉就完了，應當對發(fā)布者采取包括信用管理在內(nèi)的強制措施,，包括賬號的盈利權限,，包括賬號的一些相關的特殊的權限，是根據(jù)信用的降低,，要隨之產(chǎn)生必要的處罰措施,。