AI換臉三小時(shí)騙走女子一年工資
AI換臉技術(shù)的快速發(fā)展,,既帶來(lái)了娛樂(lè)與創(chuàng)新的可能,,也催生了新型的詐騙手段。近期,,一位濾鏡粉碎機(jī)博主通過(guò)一個(gè)簡(jiǎn)短的15秒AI換臉視頻,,令人驚訝地在三小時(shí)內(nèi)說(shuō)服其母親交出了一年的積蓄,。這一事件揭示出AI換臉詐騙的驚人真實(shí)感,以及其對(duì)社會(huì)造成的潛在威脅,。調(diào)查數(shù)據(jù)顯示,,約有60%的人無(wú)法僅憑肉眼辨別出視頻中的人臉是否經(jīng)過(guò)AI篡改,凸顯了該問(wèn)題的普遍性和嚴(yán)重性,。
據(jù)安全專家介紹,,AI換臉詐騙從一個(gè)相對(duì)小眾的學(xué)術(shù)討論話題,演變到如今的頻繁發(fā)生,,這一轉(zhuǎn)變大約始于三年前,,并在去年呈現(xiàn)爆發(fā)式增長(zhǎng)趨勢(shì)。尤為值得關(guān)注的是,,今年在東南亞地區(qū)的AI偽造攻擊案例數(shù)量已是去年的十倍之多,,顯示出此類犯罪活動(dòng)的急劇上升勢(shì)頭。
為了應(yīng)對(duì)這一挑戰(zhàn),,當(dāng)前正舉辦的一場(chǎng)名為“外灘大會(huì)AI創(chuàng)新賽·全球Deepfake攻防挑戰(zhàn)賽”的活動(dòng),,正積極動(dòng)員行業(yè)力量。該賽事不僅投入了大量資金,,還開(kāi)放了數(shù)據(jù)資源,,旨在鼓勵(lì)技術(shù)開(kāi)發(fā)者和研究人員不僅僅追求商業(yè)利潤(rùn),更要聚焦于提升AI防御技術(shù),,利用人工智能技術(shù)本身來(lái)對(duì)抗和遏制AI換臉詐騙,,實(shí)現(xiàn)技術(shù)的正向應(yīng)用與安全發(fā)展。