一位主打“顏值博主人設(shè)”的博主表示，自己選用了一張相貌平平的男生照片，AI工具在此基礎(chǔ)上生成了一張高顏值男生照片,。多數(shù)網(wǎng)友并未察覺(jué)這是AI生成的虛擬形象。目前,，各平臺(tái)已普遍升級(jí)AI內(nèi)容識(shí)別系統(tǒng)，要求對(duì)AI生成作品進(jìn)行顯著標(biāo)注。這位博主花了900元學(xué)費(fèi)學(xué)習(xí)AI起號(hào)技術(shù)，主要為了購(gòu)買老師在AI工具中預(yù)配置的鏡像文件,，用這些鏡像參數(shù)一鍵生成的虛擬人形象可以以假亂真，最大限度規(guī)避平臺(tái)的AI內(nèi)容強(qiáng)制標(biāo)注機(jī)制,。

不少AI虛擬人創(chuàng)作者為避免作品被平臺(tái)限流,，會(huì)在發(fā)布時(shí)主動(dòng)標(biāo)注內(nèi)容由AI生成,。但各平臺(tái)也有一部分未主動(dòng)標(biāo)注的作品沒(méi)有被系統(tǒng)識(shí)別出來(lái),。有從業(yè)者坦言，隨著各平臺(tái)監(jiān)測(cè)升級(jí),，“不標(biāo)注等于高風(fēng)險(xiǎn)”,。

AI賬號(hào)起號(hào)成功后大都會(huì)隱藏此前引流內(nèi)容，改頭換面成為帶貨賬號(hào),；有的順勢(shì)打出“AI起號(hào)實(shí)戰(zhàn)”噱頭,，將自身包裝成“成功案例”售賣起號(hào)課程；還有一部分賬號(hào)被明碼標(biāo)價(jià)進(jìn)行售賣,。實(shí)際上,，在AI的加持下，起號(hào)的成本和門檻被降低，大量此類賬號(hào)進(jìn)入了賬號(hào)交易市場(chǎng),。

多數(shù)社交平臺(tái)明確禁止賬號(hào)轉(zhuǎn)賣,。以抖音賬號(hào)為例，抖音平臺(tái)規(guī)定,，賬號(hào)僅限本人使用,，禁止以任何形式贈(zèng)予、借用,、出租,、轉(zhuǎn)讓、售賣或以其他方式許可他人使用該賬號(hào),。對(duì)此,，中國(guó)政法大學(xué)傳播法研究中心副主任朱巍表示，轉(zhuǎn)讓賬號(hào)法律風(fēng)險(xiǎn)非常高,，以前可能有一些違法違規(guī)的情況,，一旦出現(xiàn)問(wèn)題要承擔(dān)相關(guān)責(zé)任。

當(dāng)前,，人工智能技術(shù)帶來(lái)便利的同時(shí),，也帶來(lái)不少風(fēng)險(xiǎn)挑戰(zhàn)。為了促進(jìn)人工智能健康發(fā)展,，規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí),，四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí),。新規(guī)自2025年9月1日起施行,。朱巍表示，新規(guī)正式落地后,，此類亂象將得到遏制,。顯式標(biāo)識(shí)就是那些被編輯的音視頻、文檔等帶有明確提示的內(nèi)容,。而隱式標(biāo)識(shí)則意味著在肉眼上看不到任何標(biāo)識(shí),，但在人工智能審核時(shí)會(huì)被發(fā)現(xiàn)。這意味著以后再起號(hào)時(shí),，即便做得再好,，強(qiáng)制性的標(biāo)記也會(huì)存在，很難做到以假亂真,。