美國佛羅里達(dá)州一位母親狀告人工智能情感服務(wù)提供商Character.AI放任未成年用戶暴露在高風(fēng)險內(nèi)容之中,最終導(dǎo)致兒子自殺身亡,。這引發(fā)了對AI聊天軟件監(jiān)管的關(guān)注,。中國政法大學(xué)副教授朱巍表示,即使此類軟件只面向成人用戶,,若包含大量色情、暴力類內(nèi)容,同樣屬于不良信息違規(guī)范疇,。
隨著大模型技術(shù)的發(fā)展,市面上的AI聊天產(chǎn)品不斷涌現(xiàn),。盡管偶爾會收到是否開啟青少年模式的系統(tǒng)提醒,,但用戶可以隨意點擊不開啟。記者在某平臺搜索“AI伴侶”關(guān)鍵詞時,,發(fā)現(xiàn)有不少賬號在社群中推廣各類AI聊天軟件,。雖然相關(guān)法律條文要求推進(jìn)未成年人模式建設(shè),但現(xiàn)實中選擇開啟此模式與否的決定權(quán)仍在用戶手中,。
針對上述問題,,專家建議加強(qiáng)舉報及懲罰機(jī)制,對違規(guī)企業(yè)實施嚴(yán)厲懲處措施,。企業(yè)需加強(qiáng)內(nèi)容審核,,避免不良信息漏洞;監(jiān)護(hù)人也應(yīng)加強(qiáng)對移動設(shè)備的監(jiān)管,,避免未成年人輕易使用未開啟未成年模式的電子設(shè)備,。此外,父母和其他監(jiān)護(hù)人應(yīng)當(dāng)關(guān)注未成年人的生理,、心理狀況和情感需求,,避免他們沉迷網(wǎng)絡(luò)。