參加多人視頻會議

結(jié)果只有自己是真人

這事聽上去似乎匪夷所思

卻真實地發(fā)生了

近期,，香港警方披露了一起

多人“AI換臉”詐騙案

涉案金額高達2億港元

在這起案件中,，一家跨國公司香港分部的職員受邀參加總部首席財務官發(fā)起的“多人視頻會議”,，并按照要求先后轉(zhuǎn)賬多次，將2億港元分別轉(zhuǎn)賬15次,，轉(zhuǎn)到5個本地銀行賬戶內(nèi),。

其后，向總部查詢才知道受騙,。警方調(diào)查得知,，這起案件中所謂的視頻會議中只有受害人一個人是“真人”,，其他“參會人員”都是經(jīng)過“AI換臉”后的詐騙人員。

近期

在陜西西安也發(fā)生了一起

“AI換臉”詐騙案例

▼

陜西西安財務人員張女士與老板視頻通話,，老板要求她轉(zhuǎn)賬186萬元到一個指定賬號,。

被害人張女士：老板讓把這個款趕緊轉(zhuǎn)過去，這筆款要得非常著急,，因為他聲音還有視頻圖像都跟他人是一樣的,，所以就更確信這筆款是他說要的了，

轉(zhuǎn)賬之后,，張女士按照規(guī)定將電子憑證發(fā)到了公司財務內(nèi)部群里,，然而出乎意料的是，群里的老板看到信息后,，向她詢問這筆資金的來由,？

被害人張女士：然后我們就打電話再跟老板去核實，老板說他沒有給我發(fā)過視頻,，然后也沒有說過這筆“轉(zhuǎn)賬”,。

意識到被騙的張女士連忙報警求助，警方立刻對接反詐中心,、聯(lián)系相關銀行進行緊急止付,，最終保住了大部分被騙資金——156萬元。

據(jù)中國網(wǎng)絡空間安全協(xié)會

人工智能安全治理專委會專家

薛智慧介紹↓

“AI換臉”過程

主要包括

人臉識別追蹤

面部特征提取

人臉變換融合

背景環(huán)境渲染

圖像與音頻合成等幾個關鍵步驟

其背后,，

最核心的包括為三個部分：

首先,，利用深度學習算法精準地識別視頻中的人臉圖像，并提取出如眼睛,、鼻子,、嘴巴等關鍵面部特征。

其次,，將這些特征與目標人臉圖像進行匹配,、替換、融合,。

最后,，通過背景環(huán)境渲染并添加合成后的聲音，生成逼真度較高的虛假換臉視頻,。

學會幾招

輕易識別AI“換臉換聲”

AI換臉這一技術的出現(xiàn)

導致耳聽為虛

眼見也不一定為實了

那我們該如何防范呢,？

專家表示

其實AI人工換臉無論做得多逼真

想要識別真假還是有一些方法的

中國計算機學會安全專業(yè)委員會數(shù)字經(jīng)濟與安全工作組成員方宇：我們可以要求對方在視頻對話的時候，在臉部的前面通過揮手的方式,，去進行識別,，實時偽造的視頻，因為它要對這個視頻進行實時的生成和處理和AI的換臉。

在揮手的過程中,，會造成面部的數(shù)據(jù)的干擾,。揮手過程中，他所偽造的這個人臉,，會產(chǎn)生一定的抖動或者是一些閃現(xiàn),，或者是一些異常的情況,。

第二個就是，在點對點的溝通中可以問一些只有對方知道的問題，驗證對方的真實性,。

中國科技大學網(wǎng)絡空間安全學院

執(zhí)行院長俞能海提醒

可以讓對方摁鼻子,、摁臉

觀察其面部變化

他在一個采訪中表示

如果是真人的鼻子

按下去是會變形的

但AI生成的鼻子并不會

同樣

臉部也一樣

真人臉部按下去是會變形的

【提醒】

提高防范意識

避免個人生物信息泄露

專家表示,，除了知曉一些辨別AI換臉詐騙的小訣竅,，我們每一個人都應該提高防范意識，在日常生活中也要做好相關防范,，養(yǎng)成良好的上網(wǎng)習慣,。

首先，應該是做好日常信息安全保護,，加強對人臉,、聲紋、指紋等生物特征數(shù)據(jù)的安全防護,。另外做好個人的手機,、電腦等終端設備的軟硬件的安全管理。

第二,，不要登錄來路不明的網(wǎng)站,，以免被病毒侵入。

第三,，對可能進行聲音,、圖像甚至視頻和定位等信息采集的應用，做好授權(quán)管理,。不給他人收集自己信息的機會,，也能在一定程度上讓AI換臉詐騙遠離自己。

【新聞+】

AI技術“換臉換聲”

可能存在法律風險

法律專家表示,，用AI技術為他人“換臉換聲”甚至翻譯成其他語言并發(fā)布視頻,，可能涉嫌侵權(quán)，主要有三個方面：

一是涉嫌侵犯著作權(quán),，例如相聲,、小品等都屬于《中華人民共和國著作權(quán)法》保護的“作品”。例如網(wǎng)友用AI軟件將相聲,、小品等“翻譯”成其他語言,，需經(jīng)過著作權(quán)人授權(quán),，否則就存在侵權(quán)問題,。

二是涉嫌侵犯肖像權(quán),，根據(jù)《中華人民共和國民法典》，任何組織或者個人不得以丑化,、污損,，或者利用信息技術手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意,，不得制作,、使用、公開肖像權(quán)人的肖像,，但是法律另有規(guī)定的除外,。

三是涉嫌侵犯聲音權(quán)，根據(jù)《中華人民共和國民法典》規(guī)定,，對自然人聲音的保護,，參照適用肖像權(quán)保護的有關規(guī)定。也就是說,，需要取得聲音權(quán)人的同意,，才能夠使用他人的聲音。