央視曝光AI造假引流新套路虛假內(nèi)容泛濫隱患多

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-05-13 10:25:49 央視新聞

隨著人工智能技術(shù)的普及，AIGC技術(shù)正在改變社交媒體生態(tài),。有了創(chuàng)意,，它可以生成文字,；有了文字，它還能生成圖片,，進(jìn)而制作視頻,。然而，一些人利用這一工具批量生產(chǎn)虛假內(nèi)容來(lái)積累粉絲,。

多個(gè)社交平臺(tái)上出現(xiàn)了大量“AI起號(hào)秘籍”相關(guān)內(nèi)容,，這些內(nèi)容多以俊男靚女、育兒百科,、健康養(yǎng)生為主,，大都低俗獵奇。有些AI生成的人物形象能做到以假亂真,，還有人傳授繞過(guò)平臺(tái)“AI打標(biāo)”的經(jīng)驗(yàn)。

一旦起號(hào)成功,，這些賬號(hào)會(huì)隱藏AI引流內(nèi)容,，開(kāi)始帶貨、賣(mài)課,。有的賬號(hào)被明碼標(biāo)價(jià)放到賬號(hào)交易網(wǎng)站上,，形成了一條“起號(hào)、轉(zhuǎn)型,、轉(zhuǎn)賣(mài)”的灰色產(chǎn)業(yè)鏈,。

一個(gè)育兒短視頻賬號(hào)上，大量類(lèi)似內(nèi)容打著“外國(guó)幼兒教育專(zhuān)家”旗號(hào)輸出觀點(diǎn),。實(shí)際上,，這些所謂“外國(guó)專(zhuān)家”是AI生成的虛擬形象。在一堂AI數(shù)字人視頻教學(xué)課程中,，這個(gè)育兒賬號(hào)是導(dǎo)師口中的成功起號(hào)案例：一個(gè)人物是AI數(shù)字人,、虛擬人，不是真人,，但很像真人,。不僅嘴動(dòng)頭動(dòng)，身體也在動(dòng),。該賬號(hào)已經(jīng)做到了39萬(wàn)粉絲,，賣(mài)貨21萬(wàn)的戰(zhàn)績(jī)。

打造優(yōu)質(zhì)自媒體賬號(hào)通常需要耗費(fèi)大量時(shí)間,，從創(chuàng)意到文案腳本再到拍攝制作,，每一個(gè)作品都需要?jiǎng)?chuàng)作者親力親為。現(xiàn)在,，各大社交平臺(tái)上出現(xiàn)了大量“AI起號(hào)”相關(guān)分享,，宣稱(chēng)零門(mén)檻,、易操作、漲粉快,、可變現(xiàn),。這些教程教授的思路基本一致：僅需借助兩三個(gè)AI工具，按標(biāo)準(zhǔn)化流程,，幾分鐘就能制作一段時(shí)長(zhǎng)五秒的美女跳舞視頻,，盡管虛擬人動(dòng)作略有僵硬，但形象逼真,。

一位主打“顏值博主人設(shè)”的博主表示,，自己選用了一張相貌平平的男生照片，AI工具在此基礎(chǔ)上生成了一張高顏值男生照片,。多數(shù)網(wǎng)友并未察覺(jué)這是AI生成的虛擬形象,。目前，各平臺(tái)已普遍升級(jí)AI內(nèi)容識(shí)別系統(tǒng),，要求對(duì)AI生成作品進(jìn)行顯著標(biāo)注,。這位博主花了900元學(xué)費(fèi)學(xué)習(xí)AI起號(hào)技術(shù)，主要為了購(gòu)買(mǎi)老師在AI工具中預(yù)配置的鏡像文件,，用這些鏡像參數(shù)一鍵生成的虛擬人形象可以以假亂真,，最大限度規(guī)避平臺(tái)的AI內(nèi)容強(qiáng)制標(biāo)注機(jī)制。

12 全文共 2 頁(yè)下一頁(yè)

關(guān)閉

央視曝光AI造假引流新套路 虛假內(nèi)容泛濫隱患多

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

央視曝光AI造假引流新套路虛假內(nèi)容泛濫隱患多