新華網(wǎng)評(píng)AI換臉詐騙換臉騙術(shù)升級(jí)，警惕親人被騙

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-09-15 11:03:24 封面新聞

一張靜態(tài)照片借助人工智能技術(shù),，可以轉(zhuǎn)化為看似真實(shí)的親友對(duì)話(huà)場(chǎng)景,。近期，一位名叫“濾鏡粉碎機(jī)”的博主,，僅用15秒的AI換臉視頻,，在三小時(shí)內(nèi)便“說(shuō)服”了一位團(tuán)隊(duì)成員的母親轉(zhuǎn)賬兩萬(wàn)元，此事迅速在網(wǎng)絡(luò)上引發(fā)了廣泛關(guān)注和討論,。隨著AI技術(shù)的進(jìn)步,，人們?cè)絹?lái)越擔(dān)憂(yōu)不法分子利用這一技術(shù)，通過(guò)融合他人面孔和聲音來(lái)制造高仿真度的虛假內(nèi)容進(jìn)行詐騙,。這類(lèi)擔(dān)憂(yōu)并非空穴來(lái)風(fēng),，中央廣播電視總臺(tái)在2024年的3·15晚會(huì)上就揭露了利用“AI換臉”實(shí)施詐騙的行為。根據(jù)過(guò)往調(diào)查,，約60%的受訪者承認(rèn)難以?xún)H憑肉眼分辨出AI換臉視頻的真?zhèn)巍?/p>

在“濾鏡粉碎機(jī)”的試驗(yàn)中,，通過(guò)一個(gè)虛構(gòu)的緊急情況——“兒子的女友懷孕需要醫(yī)療費(fèi)”，成功讓團(tuán)隊(duì)成員的母親在兒子電話(huà)無(wú)法接通的情況下,，幾經(jīng)猶豫最終轉(zhuǎn)賬,。這個(gè)案例突顯出，即便是理智的成年人,，在情感驅(qū)使下也可能落入AI詐騙的陷阱,。博主透露，團(tuán)隊(duì)選擇相對(duì)溫和的借口進(jìn)行測(cè)試,，卻發(fā)現(xiàn)即便是這樣,，父母在看到孩子“真實(shí)”的影像后，也會(huì)因擔(dān)憂(yōu)而失去部分判斷力,。

對(duì)于如何識(shí)破AI換臉的詭計(jì),，博主建議通過(guò)連續(xù)提問(wèn)私密問(wèn)題的方式，因?yàn)榧幢鉇I技術(shù)再先進(jìn),，也難以完全復(fù)制個(gè)人間獨(dú)有的生活細(xì)節(jié),。此外，技術(shù)專(zhuān)家指出,，觀察面部輪廓和光線的異常也是辨別AI換臉的一個(gè)方法,，尤其是在要求對(duì)方做出快速頭部動(dòng)作時(shí)。

法律界人士強(qiáng)調(diào),，利用AI技術(shù)進(jìn)行詐騙或未經(jīng)授權(quán)的肖像替換均觸犯法律,，不僅構(gòu)成詐騙罪,，也可能侵犯?jìng)€(gè)人的肖像權(quán)和隱私權(quán)。因此,，合理規(guī)范AI技術(shù)的使用,，提升防御技術(shù)，以及增強(qiáng)公眾的防騙意識(shí)顯得尤為重要,。博主“濾鏡粉碎機(jī)”呼吁行業(yè)內(nèi)外共同關(guān)注AI防御技術(shù)的發(fā)展,，同時(shí)提醒公眾應(yīng)提高個(gè)人信息保護(hù)意識(shí)，對(duì)于易受騙群體則需加強(qiáng)宣傳教育,，共同努力遏制AI技術(shù)的不當(dāng)使用,。

(責(zé)任編輯：張蕾)

關(guān)閉

新華網(wǎng)評(píng)AI換臉詐騙 換臉騙術(shù)升級(jí)，警惕親人被騙

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

新華網(wǎng)評(píng)AI換臉詐騙換臉騙術(shù)升級(jí)，警惕親人被騙