原標(biāo)題:懷疑對方AI換臉可以讓對方摁鼻子
參加多人視頻會議,,結(jié)果只有自己是真人……
這事聽上去似乎匪夷所思,,卻真實地發(fā)生了,。
近期,,香港警方披露了一起多人“AI換臉”詐騙案,,涉案金額高達2億港元,。
在這起案件中,,一家跨國公司香港分部的職員受邀參加總部首席財務(wù)官發(fā)起的“多人視頻會議”,,并按照要求先后轉(zhuǎn)賬多次,,將2億港元分別轉(zhuǎn)賬15次,,轉(zhuǎn)到5個本地銀行賬戶內(nèi),。
其后,向總部查詢才知道受騙,。
警方調(diào)查得知,,這起案件中所謂的視頻會議中只有受害人一個人是“真人”,其他“參會人員”都是經(jīng)過“AI換臉”后的詐騙人員,。
近期,,在陜西西安也發(fā)生了一起“AI換臉”詐騙案例。
陜西西安財務(wù)人員張女士與老板視頻通話,,老板要求她轉(zhuǎn)賬186萬元到一個指定賬號,。
被害人張女士:
老板讓把這個款趕緊轉(zhuǎn)過去,這筆款要得非常著急,,因為他聲音還有視頻圖像都跟他人是一樣的,,所以就更確信這筆款是他說要的了。
轉(zhuǎn)賬之后,,張女士按照規(guī)定將電子憑證發(fā)到了公司財務(wù)內(nèi)部群里,,然而出乎意料的是,群里的老板看到信息后,,向她詢問這筆資金的來由,?
被害人張女士:
然后我們就打電話再跟老板去核實,老板說他沒有給我發(fā)過視頻,,然后也沒有說過這筆“轉(zhuǎn)賬”,。
意識到被騙的張女士連忙報警求助,警方立刻對接反詐中心,、聯(lián)系相關(guān)銀行進行緊急止付,,最終保住了大部分被騙資金——156萬元。
據(jù)中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專委會專家薛智慧介紹,,“AI換臉”過程主要包括人臉識別追蹤,、面部特征提取、人臉變換融合,、背景環(huán)境渲染,、圖像與音頻合成等幾個關(guān)鍵步驟。其背后,,最核心的包括為三個部分:
5月11日下午17時許,臺灣新北市三重區(qū)進安街驚傳命案,。死者為一家祖孫三代,三人尸體被發(fā)現(xiàn)用棉被和被單包裹,,陳尸臥室內(nèi),,推斷死亡時間超過1周以上。
2024-05-14 11:47:27男子掐死岳母,、妻子和繼子?AI已成為過去一年的網(wǎng)絡(luò)熱點,,伴隨其廣泛應(yīng)用,,AI詐騙現(xiàn)象日益引起關(guān)注,尤其是運用AI換臉技術(shù)實施的詐騙案件屢見報端,。
2024-04-22 15:11:05“AI換臉”騙走2億港元《墨雨云間》作為近期熱門劇集,,不僅讓觀眾享受到了極佳的觀看體驗,,還因其采用的AI換臉技術(shù)引發(fā)了廣泛討論
2024-06-11 13:51:13《墨雨云間》AI換臉毫無違和感