誤導(dǎo)公共輿論、竊取關(guān)鍵信息 別讓AI助手成威脅國家安全的“隱形武器”
記者從國家安全部了解到,,數(shù)字化時代,,人工智能(AI)正逐漸滲透到千行百業(yè)和日常生活中,推動經(jīng)濟社會高質(zhì)量發(fā)展,。值得注意的是,,AI工具若被不法分子利用,會對我國關(guān)鍵數(shù)據(jù),、基礎(chǔ)設(shè)施,、社會秩序造成損害,,成為威脅國家安全的“隱形武器”。
虛假信息的“投毒者”
AI技術(shù)中的“深度偽造(Deepfake)”能力是“深度學(xué)習(xí)”與“偽造”的結(jié)合,,人工智能的深度學(xué)習(xí)算法能夠進行自動化的數(shù)據(jù)處理,,從而實現(xiàn)圖片、音頻和視頻的智能模擬和偽造,。該技術(shù)用于影視,、游戲、廣告等行業(yè),,可創(chuàng)作出更多逼真,、有趣的虛擬角色和場景,翻新娛樂體驗,。然而,,一旦被濫用或惡意使用,將給個人合法權(quán)益,、社會穩(wěn)定和國家安全帶來諸多安全風(fēng)險和挑戰(zhàn),。國家安全機關(guān)工作發(fā)現(xiàn),某境外反華敵對勢力通過深度偽造技術(shù)生成虛假視頻,,企圖向境內(nèi)傳播,,誤導(dǎo)輿論、制造恐慌,,對我國家安全構(gòu)成威脅,。
關(guān)鍵信息的“竊密者”
從簡單的文字生成,到復(fù)雜的多模態(tài)創(chuàng)作,,生成式AI的強大學(xué)習(xí)能力令人矚目,。AI的學(xué)習(xí)和決策過程依賴于大量的數(shù)據(jù),決定了AI工具可能收集并存儲用戶輸入的信息,。據(jù)公開報道,,因開源庫發(fā)生故障,某境外AI模型的部分用戶可以看到其他活躍用戶聊天記錄中的標題甚至是名字,、支付地址等隱私信息,,造成個人信息泄露。如果不注意防范,,相關(guān)人員信息數(shù)據(jù)可能成為境外間諜情報機關(guān)實施拉攏策反,、滲透破壞活動的指引,造成國家安全風(fēng)險隱患,。