10歲女孩偷偷和AI男?！罢剳賽?ài)” 虛擬戀情引發(fā)擔(dān)憂(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-01-12 19:15:18 光明網(wǎng)

10歲女孩偷偷和AI男?！罢剳賽?ài)” 虛擬戀情引發(fā)擔(dān)憂

使用AI劇情聊天軟件的用戶不僅包括大學(xué)生、家庭主婦,，還有不少未成年人,。黃秋月發(fā)現(xiàn)妹妹能和AI角色聊到晚上10點(diǎn)多，而類似的聊天軟件可以繞過(guò)驗(yàn)證碼,，直接使用短視頻賬號(hào)一鍵登錄,。記者在調(diào)查過(guò)程中體驗(yàn)了5款A(yù)I劇情聊天軟件，發(fā)現(xiàn)只需手機(jī)號(hào)碼即可注冊(cè),，部分應(yīng)用雖會(huì)詢問(wèn)是否啟用青少年模式,，但用戶點(diǎn)擊“不開(kāi)啟”即可避開(kāi)年齡鑒別。這意味著未成年人幾乎不受限制地使用這類軟件,。

10歲女孩偷偷和AI男模“談戀愛(ài)” 虛擬戀情引發(fā)擔(dān)憂

黃秋月?lián)牡氖?，AI劇情聊天軟件中的虛擬形象較為極端,，有些角色設(shè)定高傲無(wú)禮，有些則帶有軟色情意味,。妹妹頻繁使用碎片化的網(wǎng)絡(luò)語(yǔ)言,，這對(duì)她的語(yǔ)言表達(dá)習(xí)慣產(chǎn)生了較大影響。

有業(yè)內(nèi)人士表示,，AI劇情聊天是此前互聯(lián)網(wǎng)“語(yǔ)擦”的變體,，由生成式人工智能提供情緒服務(wù),。用戶充值后甚至可以自定義AI角色的外貌,、姓名、開(kāi)場(chǎng)語(yǔ),、語(yǔ)音等。北京市隆安（廣州）律師事務(wù)所陳煥律師強(qiáng)調(diào),，目前AI劇情聊天軟件沒(méi)有強(qiáng)制要求用戶進(jìn)行年齡鑒別,，反映出行業(yè)監(jiān)管不足的問(wèn)題。他認(rèn)為,，企業(yè)有必要主動(dòng)要求用戶進(jìn)行身份認(rèn)證,，以通過(guò)年齡鑒別篩選用戶,。

劉永謀教授認(rèn)為，未來(lái)與AI相關(guān)的陪伴類軟件可能會(huì)暴露出技術(shù)風(fēng)險(xiǎn)和倫理問(wèn)題,。使用者在和AI角色聊天時(shí)會(huì)暴露大量個(gè)人隱私,，可能導(dǎo)致依賴或成癮。泄露的信息還可能被黑客利用,，從而傷害使用者,。陳煥律師建議家長(zhǎng)適時(shí)查看孩子的使用記錄，并提醒平臺(tái)需嚴(yán)格落實(shí)監(jiān)管責(zé)任,，對(duì)內(nèi)容進(jìn)行安全過(guò)濾,，限制用戶使用年齡，響應(yīng)監(jiān)護(hù)人的要求刪除不當(dāng)信息,。如果平臺(tái)未盡到相應(yīng)責(zé)任，不僅平臺(tái)會(huì)面臨處罰,，相關(guān)責(zé)任人員也會(huì)受到從業(yè)限制,，甚至被追究刑事責(zé)任,。

首頁(yè)上一頁(yè)12共 2 頁(yè)

(責(zé)任編輯：張佳鑫 0764)

關(guān)閉

10歲女孩偷偷和AI男?！罢剳賽?ài)” 虛擬戀情引發(fā)擔(dān)憂(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)