AI假靳東越來越難防技術(shù)升級引發(fā)關(guān)注

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-10 07:41:13 新浪

AI假靳東越來越難防。演員靳東在3月5日的政協(xié)小組討論上，針對AI換臉導(dǎo)致的詐騙問題發(fā)表了自己的看法,。他提到一些觀眾因觀看AI換臉視頻而被騙,，這種行為非常惡劣，并呼吁建立更好的規(guī)則來應(yīng)對,。

AI假靳東越來越難防

去年11月，在江西宜春，一位老人因相信AI換臉視頻中的“靳東”而前往銀行申請貸款200萬元,。盡管銀行拒絕了她的請求，但這一事件揭示了AI換臉技術(shù)對中老年群體的影響,。這類騙局不僅限于個案,，許多網(wǎng)友分享了幫助家中長輩識別和擺脫AI換臉視頻的經(jīng)歷。

AI假靳東越來越難防技術(shù)升級引發(fā)關(guān)注

近年來,，類似的詐騙事件屢見不鮮,。2020年秋天，江西都市頻道報道了一名61歲女子因與“假靳東”網(wǎng)戀離家出走的新聞。這些視頻通常使用靳東的影視片段,，配上機械男聲,，雖然破綻明顯，但仍有不少人受騙,。隨著AI技術(shù)的進步,，如今的換臉和擬聲技術(shù)更加逼真，使得辨別真假變得更加困難,。

AI假靳東越來越難防技術(shù)升級引發(fā)關(guān)注

不僅是中老年人,，年輕一代也難以完全避免被AI生成的信息誤導(dǎo)。例如,，一則關(guān)于“中國80后累計死亡率為5.20%”的謠言在網(wǎng)絡(luò)上廣泛傳播,，直到中國人民大學(xué)教授李婷公開辟謠。此外,，股市也曾受到AI謠言的影響,，如科大訊飛股價因一條虛假信息而大幅下跌。

AI假靳東越來越難防技術(shù)升級引發(fā)關(guān)注

全國人大代表雷軍和政協(xié)委員甘華田均提出建議,，加強AI換臉和擬聲技術(shù)的治理,。清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊指出，如果不對AI謠言進行有效管理,，可能會對社會信心和穩(wěn)定造成嚴(yán)重沖擊,。

AI生成的內(nèi)容已經(jīng)變得越來越難以辨別。傳統(tǒng)謠言往往存在明顯的邏輯漏洞,，而AI可以制造出高度逼真的信息,，使謠言更具破壞力。此外,，低成本和高利潤推動了一些機構(gòu)利用AI生成大量內(nèi)容以獲取流量收益,，這給警方的事實核查帶來了巨大挑戰(zhàn)。

盡管有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法規(guī)出臺,，但在實際操作中,，跨平臺協(xié)作和技術(shù)發(fā)展速度的問題依然存在。目前,，AI生成圖像檢測技術(shù)的發(fā)展落后于生成模型技術(shù),，中小型平臺也難以承擔(dān)高昂的技術(shù)投入成本。

對于文字信息的治理,，平臺主要通過識別同質(zhì)化內(nèi)容來進行處理,，但這并不足以完全解決謠言問題。專家認(rèn)為,，需要進一步完善相關(guān)法律法規(guī),，確保AI內(nèi)容創(chuàng)造符合人類倫理規(guī)范。未來，如何在技術(shù)快速發(fā)展的背景下建立有效的管理體系,，仍是一個亟待解決的問題,。

AI假靳東越來越難防技術(shù)升級引發(fā)關(guān)注

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

AI假靳東越來越難防 技術(shù)升級引發(fā)關(guān)注

相關(guān)新聞

今日熱點

頻道熱點

AI假靳東越來越難防技術(shù)升級引發(fā)關(guān)注