境外勢(shì)力用AI生成假制造恐慌

深度偽造炮制虛假視頻、開(kāi)源漏洞暴露百萬(wàn)隱私,、算法機(jī)器人煽動(dòng)社會(huì)對(duì)立——人工智能正被境外勢(shì)力打造為新型顛覆武器,！

國(guó)家安全機(jī)關(guān)最新通報(bào),，某境外反華組織利用深度偽造技術(shù)，生成大量涉華虛假視頻,，企圖制造社會(huì)恐慌,、誤導(dǎo)國(guó)內(nèi)輿論。這些以假亂真的偽造內(nèi)容,，已成為威脅國(guó)家安全的新型“數(shù)字炮彈”,。

警惕！AI助手的“陰暗面”,！

數(shù)字化時(shí)代,，人工智能（AI）正逐漸滲透到千行百業(yè)和日常生活中，推動(dòng)經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展,。值得注意的是,，AI工具若被不法分子利用，會(huì)對(duì)我關(guān)鍵數(shù)據(jù),、基礎(chǔ)設(shè)施,、社會(huì)秩序造成損害，成為威脅國(guó)家安全的“隱形武器”,。

虛假信息的“投毒者”

AI技術(shù)中的“深度偽造（Deepfake）”能力是“深度學(xué)習(xí)”與“偽造”的結(jié)合,，人工智能的深度學(xué)習(xí)算法能夠進(jìn)行自動(dòng)化的數(shù)據(jù)處理,，從而實(shí)現(xiàn)圖片、音頻和視頻的智能模擬和偽造,。該技術(shù)用于影視,、游戲、廣告等行業(yè),，可創(chuàng)作出更多逼真,、有趣的虛擬角色和場(chǎng)景，翻新娛樂(lè)體驗(yàn),。然而,，一旦被濫用或惡意使用，將給個(gè)人合法權(quán)益,、社會(huì)穩(wěn)定和國(guó)家安全帶來(lái)諸多安全風(fēng)險(xiǎn)和挑戰(zhàn),。國(guó)家安全機(jī)關(guān)工作發(fā)現(xiàn)，某境外反華敵對(duì)勢(shì)力通過(guò)深度偽造技術(shù)生成虛假視頻,，企圖向境內(nèi)傳播,，誤導(dǎo)輿論,、制造恐慌，對(duì)我國(guó)家安全構(gòu)成威脅,。

關(guān)鍵信息的“竊密者”

從簡(jiǎn)單的文字生成,，到復(fù)雜的多模態(tài)創(chuàng)作，生成式AI的強(qiáng)大學(xué)習(xí)能力令人矚目,。AI的學(xué)習(xí)和決策過(guò)程依賴(lài)于大量的數(shù)據(jù),，決定了AI工具可能收集并存儲(chǔ)用戶(hù)輸入的信息。據(jù)公開(kāi)報(bào)道,，因開(kāi)源庫(kù)發(fā)生故障,，某境外AI模型的部分用戶(hù)可以看到其他活躍用戶(hù)聊天記錄中的標(biāo)題甚至是名字、支付地址等隱私信息,，造成個(gè)人信息泄露,。如果不注意防范，相關(guān)人員信息數(shù)據(jù)可能成為境外間諜情報(bào)機(jī)關(guān)實(shí)施拉攏策反,、滲透破壞活動(dòng)的指引,，造成國(guó)家安全風(fēng)險(xiǎn)隱患。

意識(shí)形態(tài)的“挑撥者”

AI算法注重知識(shí)的重組,、創(chuàng)造和輸出,，如果人為對(duì)其進(jìn)行有偏見(jiàn)性的數(shù)據(jù)導(dǎo)入和算法重構(gòu)，可能會(huì)演變?yōu)槠?jiàn)性意識(shí)形態(tài)輸出,，成為境外反華敵對(duì)勢(shì)力煽風(fēng)點(diǎn)火的重要武器,。特別是在社會(huì)熱點(diǎn)事件的前期，因事件自帶流量,，在情況尚不明朗,、公眾情緒累積時(shí)，AI生成的謠言往往“趁虛而入”,，炮制虛假信息,，誤導(dǎo)公共輿論，造成惡劣影響,。國(guó)家安全機(jī)關(guān)工作發(fā)現(xiàn),，個(gè)別西方國(guó)家和境外勢(shì)力通過(guò)批量操縱賬號(hào)，在社交媒體大肆發(fā)布特定觀(guān)點(diǎn)或情感化內(nèi)容,，妄圖利用性別對(duì)立,、勞資糾紛等議題，對(duì)我進(jìn)行滲透破壞,、污蔑抹黑,，進(jìn)而破壞我社會(huì)穩(wěn)定。

國(guó)家安全機(jī)關(guān)提示

面對(duì)人工智能技術(shù)發(fā)展帶來(lái)的新機(jī)遇和新挑戰(zhàn),，需要前瞻研判相關(guān)風(fēng)險(xiǎn),，提高國(guó)家安全意識(shí)和自我防范意識(shí),，共同筑牢維護(hù)國(guó)家安全的人民防線(xiàn)。

——提高法治思維,。近年來(lái),，我國(guó)出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》等部門(mén)規(guī)章,，發(fā)布《人工智能安全治理框架》等,，在法治軌道上加強(qiáng)人工智能治理。公民應(yīng)主動(dòng)學(xué)習(xí)相關(guān)法律知識(shí),，遵守相關(guān)產(chǎn)業(yè)標(biāo)準(zhǔn),、技術(shù)標(biāo)準(zhǔn)和行業(yè)規(guī)范，推動(dòng)人工智能技術(shù)良性健康發(fā)展,。

——加強(qiáng)宣傳普及,。多措并舉加強(qiáng)公眾對(duì)人工智能的認(rèn)識(shí)與理解，提高公眾對(duì)人工智能安全性的認(rèn)識(shí),，提升對(duì)信息的辨識(shí)與分析能力,，讓公眾了解在使用AI技術(shù)過(guò)程中可能面臨的風(fēng)險(xiǎn)，提高警惕意識(shí),、繃緊防范之弦,。

——增強(qiáng)辨別能力。對(duì)于人工智能生成的內(nèi)容,，應(yīng)培養(yǎng)批判性思維,，提高真?zhèn)涡畔⒌谋鎰e能力，未經(jīng)核實(shí)的內(nèi)容堅(jiān)決不迷信,、不轉(zhuǎn)發(fā),、不擴(kuò)散。使用AI工具時(shí),，切勿將個(gè)人隱私信息,、重要成果、涉密或未公開(kāi)文件上傳至AI平臺(tái),；限制AI工具權(quán)限,，禁止非必要應(yīng)用獲取個(gè)人通訊錄、相冊(cè),、地理位置等關(guān)鍵信息,。