雖然目前AI“換臉”和“仿聲”有一定的技術(shù)門檻和較高的實(shí)現(xiàn)成本,,但如果被不法分子掌握,,就可能在即時(shí)通信或者社交軟件上偽裝他人,,開展詐騙活動(dòng),。
如何識(shí)別AI換臉換聲,?
據(jù)了解,,AI換臉主要使用深度合成技術(shù),。在我國,,《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出,要求深度合成服務(wù)提供者對(duì)深度合成的內(nèi)容添加顯式或隱式水印,。
中國信通院人工智能所安全與元宇宙部專家陳文弢介紹,,水印的本質(zhì)就是提示公眾這個(gè)內(nèi)容是由AI合成的,另一方面也是為了追溯來源,。
專家提醒,,用戶可以學(xué)習(xí)一些小訣竅,來辨別AI換臉詐騙,。比如,,在進(jìn)行視頻對(duì)話時(shí),可以要求對(duì)方在臉部前面,,通過揮手的方式識(shí)別實(shí)時(shí)偽造的視頻,。這是因?yàn)樵趽]手的過程中會(huì)造成面部的數(shù)據(jù)干擾,如果是偽造的人臉,,會(huì)產(chǎn)生一定的抖動(dòng)或閃現(xiàn),。
在點(diǎn)對(duì)點(diǎn)的溝通過程中,可以問一些只有對(duì)方知道的問題,,以此來驗(yàn)證對(duì)方的真實(shí)性,。
但值得注意的是,以上鑒別方式都是基于現(xiàn)有算法的局限性,。未來隨著AI技術(shù)的發(fā)展,,這類AI變臉技術(shù)有可能更具迷惑性。
監(jiān)管如何跟上技術(shù)發(fā)展,?
快速發(fā)展的AI技術(shù)帶來了相關(guān)信息的爆炸式增長,,造成了AI信息甄別困難。因此,,治理也應(yīng)當(dāng)提速,,跟上技術(shù)發(fā)展的步伐。
工信部信息通信經(jīng)濟(jì)專家委員會(huì)委員盤和林稱,,目前受害人維權(quán)困難,,一方面是由于缺少簡化訴訟的渠道,,另一方面是平臺(tái)在處理此類維權(quán)問題時(shí),不配合,、不積極,。“下一步,既要疏通當(dāng)事人維權(quán)渠道,,也應(yīng)要求平臺(tái)完善算法,,及時(shí)發(fā)現(xiàn)問題視頻,增加平臺(tái)監(jiān)管內(nèi)容的責(zé)任義務(wù),。”