AI假靳東越來越難防技術(shù)升級引發(fā)關(guān)注

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-10 07:41:13 新浪

AI假靳東越來越難防,。演員靳東在3月5日的政協(xié)小組討論上，針對AI換臉導(dǎo)致的詐騙問題發(fā)表了自己的看法。他提到一些觀眾因觀看AI換臉視頻而被騙,，這種行為非常惡劣,，并呼吁建立更好的規(guī)則來應(yīng)對,。

去年11月,，在江西宜春,，一位老人因相信AI換臉視頻中的“靳東”而前往銀行申請貸款200萬元,。盡管銀行拒絕了她的請求,，但這一事件揭示了AI換臉技術(shù)對中老年群體的影響。這類騙局不僅限于個(gè)案,，許多網(wǎng)友分享了幫助家中長輩識別和擺脫AI換臉視頻的經(jīng)歷,。

近年來，類似的詐騙事件屢見不鮮,。2020年秋天,，江西都市頻道報(bào)道了一名61歲女子因與“假靳東”網(wǎng)戀離家出走的新聞。這些視頻通常使用靳東的影視片段,，配上機(jī)械男聲,，雖然破綻明顯，但仍有不少人受騙,。隨著AI技術(shù)的進(jìn)步,，如今的換臉和擬聲技術(shù)更加逼真，使得辨別真假變得更加困難,。

不僅是中老年人,，年輕一代也難以完全避免被AI生成的信息誤導(dǎo)。例如,，一則關(guān)于“中國80后累計(jì)死亡率為5.20%”的謠言在網(wǎng)絡(luò)上廣泛傳播,，直到中國人民大學(xué)教授李婷公開辟謠。此外,，股市也曾受到AI謠言的影響,，如科大訊飛股價(jià)因一條虛假信息而大幅下跌。

全國人大代表雷軍和政協(xié)委員甘華田均提出建議,，加強(qiáng)AI換臉和擬聲技術(shù)的治理,。清華大學(xué)新聞與傳播學(xué)院副教授陸洪磊指出，如果不對AI謠言進(jìn)行有效管理，可能會(huì)對社會(huì)信心和穩(wěn)定造成嚴(yán)重沖擊,。

AI生成的內(nèi)容已經(jīng)變得越來越難以辨別,。傳統(tǒng)謠言往往存在明顯的邏輯漏洞，而AI可以制造出高度逼真的信息,，使謠言更具破壞力,。此外，低成本和高利潤推動(dòng)了一些機(jī)構(gòu)利用AI生成大量內(nèi)容以獲取流量收益,，這給警方的事實(shí)核查帶來了巨大挑戰(zhàn),。

盡管有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法規(guī)出臺，但在實(shí)際操作中,，跨平臺協(xié)作和技術(shù)發(fā)展速度的問題依然存在,。目前，AI生成圖像檢測技術(shù)的發(fā)展落后于生成模型技術(shù),，中小型平臺也難以承擔(dān)高昂的技術(shù)投入成本,。

對于文字信息的治理，平臺主要通過識別同質(zhì)化內(nèi)容來進(jìn)行處理,，但這并不足以完全解決謠言問題,。專家認(rèn)為，需要進(jìn)一步完善相關(guān)法律法規(guī),，確保AI內(nèi)容創(chuàng)造符合人類倫理規(guī)范,。未來，如何在技術(shù)快速發(fā)展的背景下建立有效的管理體系,，仍是一個(gè)亟待解決的問題,。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

AI假靳東越來越難防 技術(shù)升級引發(fā)關(guān)注

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI假靳東越來越難防技術(shù)升級引發(fā)關(guān)注