近年來,,隨著人工智能技術(shù)的進步,一些不法分子開始利用AI技術(shù)融合他人面孔和聲音,,制造非常逼真的合成圖像來實施新型網(wǎng)絡(luò)詐騙,,這類騙局常常會在短時間內(nèi)給被害人造成較大損失。我們應(yīng)該如何看清這類AI“深度造假”,?辨別“AI換臉”有沒有什么好方法,?我們先來看看近期發(fā)生在陜西西安的一起“AI換臉”詐騙案例。
陜西西安財務(wù)人員張女士與老板視頻通話,,老板要求她轉(zhuǎn)賬186萬元到一個指定賬號,。
被害人張女士:老板讓把這個款趕緊轉(zhuǎn)過去,這個款非常著急,,因為他聲音還有視頻圖像都跟他人長得一樣的,,所以就更確信這筆款是他說的了,,然后我直接就把這筆款轉(zhuǎn)了,。
轉(zhuǎn)賬之后,,張女士按照規(guī)定將電子憑證發(fā)到了公司財務(wù)內(nèi)部群里,,然而出乎意料的是,群里的老板看到信息后,,向她詢問這筆資金的來由,?
被害人張女士:然后我們就打電話再跟老板去核實,,老板說他沒有給我發(fā)過視頻,,然后也沒有說過這筆轉(zhuǎn)賬,。
意識到被騙的張女士連忙報警求助,,警方立刻對接反詐中心、聯(lián)系相關(guān)銀行進行緊急止付,,最終保住了大部分被騙資金156萬元,。
AI“多人換臉”詐騙案騙走2億港元
一百多萬的現(xiàn)金,,對大部分人來說都算是一筆巨款了,,好在警方處理及時,,挽回了大部分損失,,下面我們再來看另一起案例,,這起案例的“換臉”技術(shù)難度更高,,涉案金額也更大,。近期,香港警方也披露了一起AI"多人換臉"詐騙案,,涉案金額高達(dá)2億港元,。
在該起案件中,,一家跨國公司香港分部的職員,,受邀參加總部首席財務(wù)官發(fā)起的多人的視頻會議,。并按照要求,,前后轉(zhuǎn)賬多次,將2億港元轉(zhuǎn)賬到5個本地銀行賬戶內(nèi),其后向總部查詢方知受騙,。警方調(diào)查得知,,這起案件中,,所謂的視頻會議中,,只受害者一人為“真人”,,其余所謂參會人員,全部是經(jīng)過AI換臉后的詐騙人員,。