雖然目前AI“換臉”和“仿聲”有一定的技術(shù)門檻和較高的實現(xiàn)成本,,但如果被不法分子掌握,就可能在即時通信或者社交軟件上偽裝他人,,開展詐騙活動,。
如何識別AI換臉換聲?
據(jù)了解,,AI換臉主要使用深度合成技術(shù),。在我國,《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出,,要求深度合成服務(wù)提供者對深度合成的內(nèi)容添加顯式或隱式水印,。
中國信通院人工智能所安全與元宇宙部專家陳文弢介紹,水印的本質(zhì)就是提示公眾這個內(nèi)容是由AI合成的,,另一方面也是為了追溯來源,。
專家提醒,用戶可以學(xué)習(xí)一些小訣竅,,來辨別AI換臉詐騙,。比如,在進行視頻對話時,,可以要求對方在臉部前面,,通過揮手的方式識別實時偽造的視頻。這是因為在揮手的過程中會造成面部的數(shù)據(jù)干擾,如果是偽造的人臉,,會產(chǎn)生一定的抖動或閃現(xiàn),。
在點對點的溝通過程中,可以問一些只有對方知道的問題,,以此來驗證對方的真實性,。
但值得注意的是,以上鑒別方式都是基于現(xiàn)有算法的局限性,。未來隨著AI技術(shù)的發(fā)展,,這類AI變臉技術(shù)有可能更具迷惑性。
監(jiān)管如何跟上技術(shù)發(fā)展,?
快速發(fā)展的AI技術(shù)帶來了相關(guān)信息的爆炸式增長,,造成了AI信息甄別困難。因此,,治理也應(yīng)當提速,,跟上技術(shù)發(fā)展的步伐。
工信部信息通信經(jīng)濟專家委員會委員盤和林稱,,目前受害人維權(quán)困難,,一方面是由于缺少簡化訴訟的渠道,另一方面是平臺在處理此類維權(quán)問題時,,不配合,、不積極。“下一步,,既要疏通當事人維權(quán)渠道,,也應(yīng)要求平臺完善算法,及時發(fā)現(xiàn)問題視頻,,增加平臺監(jiān)管內(nèi)容的責(zé)任義務(wù),。”