專家：若中國(guó)輸?shù)鬉I代價(jià)是什么,？數(shù)據(jù)安全成首要挑戰(zhàn)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-05-22 20:50:20 每日經(jīng)濟(jì)新聞

在最近舉行的一次數(shù)字安全盛會(huì)上,，一個(gè)展位通過騎行者的現(xiàn)場(chǎng)體驗(yàn)，展示了數(shù)據(jù)保護(hù)的過程,。隨著參與者踏上自行車,，心率,、速度等個(gè)人信息被各種設(shè)備捕捉并實(shí)時(shí)顯現(xiàn)在屏幕上,，以此說明數(shù)據(jù)分類與傳輸中如何防范潛在的信息泄露和惡意攻擊。

近期,，人工智能技術(shù),，特別是大型模型的應(yīng)用，引發(fā)了廣泛關(guān)注,。它們?cè)趲砀咝c便利的同時(shí),，也引發(fā)了人們對(duì)隱私和數(shù)據(jù)安全的憂慮。人們?cè)谙硎蹵I對(duì)話的便利時(shí),，不禁擔(dān)憂個(gè)人及商業(yè)敏感信息的安全,。這一話題成為了包括院士、學(xué)者和網(wǎng)絡(luò)安全領(lǐng)域領(lǐng)頭企業(yè)代表在內(nèi)的眾多專家在大會(huì)上探討的焦點(diǎn),。

浙江大學(xué)金小剛副教授指出,，在與大模型互動(dòng)過程中，用戶數(shù)據(jù)如位置,、偏好可能被收集,，因此選擇信譽(yù)良好的平臺(tái)至關(guān)重要。中國(guó)科學(xué)技術(shù)大學(xué)左曉棟教授則強(qiáng)調(diào),，生成式AI除了面臨數(shù)據(jù)安全挑戰(zhàn),，還需考慮其生成內(nèi)容是否合規(guī)，以及如何保障涉及個(gè)人信息和商業(yè)秘密的數(shù)據(jù)權(quán)益,。

針對(duì)AI技術(shù)的雙刃劍特性,，專家們提出，安全技術(shù)需與大模型同步發(fā)展并緊密結(jié)合,，以應(yīng)對(duì)不斷涌現(xiàn)的安全威脅?，F(xiàn)實(shí)中，不僅大模型的訓(xùn)練和使用存在隱患,，AI深度偽造技術(shù)已被不法分子用于詐騙等非法活動(dòng),，如“黑模型”的出現(xiàn)大大降低了犯罪的技術(shù)門檻。

對(duì)于這些挑戰(zhàn)，中國(guó)工程院院士鄔江興建議采用不同AI模型相互驗(yàn)證的方法來提升安全性,。安恒信息董事長(zhǎng)范淵則強(qiáng)調(diào)以AI管理AI的趨勢(shì),，指出通過AI技術(shù)能顯著提高數(shù)據(jù)處理效率和安全防護(hù)能力，盡管目前仍有一些難題待解,。

面對(duì)AI安全風(fēng)險(xiǎn),，鄔江興院士提倡采用多維度、多種AI系統(tǒng)交叉驗(yàn)證的策略,，避免單一模型的局限性和潛在欺騙性,。胡瑞敏則呼吁對(duì)智能技術(shù)實(shí)施必要約束，并提升對(duì)深度偽造的檢測(cè)能力,，同時(shí)表示已有易于普及的鑒別技術(shù)供公眾使用,。

總而言之，隨著AI技術(shù)的飛速發(fā)展,，構(gòu)建安全,、可靠的智能環(huán)境成為緊迫課題，需各界共同努力,，既要充分利用AI的正面潛力,，也要積極防范伴隨而來的安全隱患。

(責(zé)任編輯：張蕾)

關(guān)閉

專家：若中國(guó)輸?shù)鬉I代價(jià)是什么,？數(shù)據(jù)安全成首要挑戰(zhàn)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)