記者調(diào)查發(fā)現(xiàn),,一些黑灰產(chǎn)從業(yè)者甚至在宣傳中明確指出了具體的地方政務(wù)系統(tǒng),,包括浙里辦,、豫事辦,、海易辦等,,并表示“基本(攻破)政務(wù)都沒(méi)問(wèn)題”,。展示的一個(gè)通過(guò)人臉驗(yàn)證的演示視頻中,生成出的人臉在極短時(shí)間內(nèi)可以做出諸如“搖頭”“張嘴”“眨眼”等動(dòng)作,,成功通過(guò)人臉測(cè)試,。
網(wǎng)絡(luò)安全研究專家彭根表示,這類(lèi)事件的發(fā)生主要是由于AI技術(shù)使得虛擬“人臉”越來(lái)越真實(shí),。識(shí)別真?zhèn)卧絹?lái)越難,,堵住這樣的漏洞只能依靠技術(shù)升級(jí)。國(guó)家網(wǎng)信辦此前發(fā)布的《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定(試行)(征求意見(jiàn)稿)》明確,,人臉識(shí)別技術(shù)使用者應(yīng)當(dāng)每年對(duì)圖像采集設(shè)備,、個(gè)人身份識(shí)別設(shè)備的安全性和可能存在的風(fēng)險(xiǎn)進(jìn)行檢測(cè)評(píng)估,并根據(jù)檢測(cè)評(píng)估情況改進(jìn)安全策略,,調(diào)整置信度閾值,,采取有效措施保護(hù)設(shè)備免受攻擊、侵入,、干擾和破壞,。
螞蟻數(shù)科安全總監(jiān)王磊表示,黑產(chǎn)團(tuán)伙往往通過(guò)非法渠道購(gòu)買(mǎi)公民隱私信息,,用AI生成虛假人臉活體視頻,、劫持?jǐn)z像頭篡改采集內(nèi)容,達(dá)到欺騙平臺(tái)的目的,。深度偽造算法與安全防御算法是一個(gè)相互博弈的過(guò)程,,建議網(wǎng)絡(luò)平臺(tái)建立具備實(shí)時(shí)安全對(duì)抗能力的人臉識(shí)別系統(tǒng),及時(shí)采集新型攻擊手段,,人臉識(shí)別的模型需要高效更新反制手段,。此外,,網(wǎng)絡(luò)平臺(tái)需要有完善的業(yè)務(wù)風(fēng)控策略,從注冊(cè),、登錄,、業(yè)務(wù)開(kāi)通或支付等環(huán)節(jié)多層次監(jiān)控,警惕異地登錄,、設(shè)備更換等異常行為,。
除了技術(shù)升級(jí)外,增加除人臉識(shí)別外的多重防控系統(tǒng)以及在政務(wù)平臺(tái)設(shè)置“高風(fēng)險(xiǎn)提醒機(jī)制”也是可供選擇的解決手段,。崔征兩表示,,應(yīng)對(duì)人臉識(shí)別風(fēng)險(xiǎn),一般的防護(hù)措施是建立多重防控體系,,包括手機(jī)和鏈路的加固與防控,、研發(fā)應(yīng)對(duì)deepfake的能力、進(jìn)行多因子校驗(yàn)等,。裴智勇建議,,使用人臉識(shí)別技術(shù)應(yīng)加入其他驗(yàn)證手段進(jìn)行輔助,如常見(jiàn)的短信驗(yàn)證,、電話驗(yàn)證或大數(shù)據(jù)驗(yàn)證,,這樣相對(duì)更安全。張延來(lái)也建議引入多重認(rèn)證機(jī)制,,如結(jié)合動(dòng)態(tài)短信驗(yàn)證碼+人臉識(shí)別+歷史設(shè)備登錄行為等,。