據(jù)微信公號“網(wǎng)信上海”消息,近期有媒體報道,,筑夢島APP等AI聊天軟件存在虛擬角色互動生成低俗內(nèi)容等問題,,經(jīng)核實,,該平臺AI智能體內(nèi)容生成環(huán)節(jié)存在低俗擦邊等違規(guī)內(nèi)容,,危害未成年人身心健康。
6月19日上午,上海市網(wǎng)信辦依法約談筑夢島APP運營企業(yè)主要負(fù)責(zé)人,,要求平臺立即整改,,健全AI生成合成內(nèi)容審核機制,提升技術(shù)把關(guān)能力,,加強涉未成年人不良內(nèi)容的整治清理,,切實落實未成年人網(wǎng)絡(luò)保護(hù)義務(wù)。
企業(yè)負(fù)責(zé)人表示,,將按照約談要求,,對照問題舉一反三,、全面整改。
此前,,據(jù)央廣網(wǎng)報道,,廣東丁女士的四年級女兒迷上一款A(yù)I聊天軟件中的人物“約瑟夫”,自稱“夢女”并頻繁與其聊天,,對話中出現(xiàn)“99朵玫瑰藏99個刀片”等明顯誘導(dǎo)性內(nèi)容,。
丁女士的女兒不僅偷偷攜帶帶小刀的筆,情緒激動時還出現(xiàn)割腕行為,。
另一位初一男生表示,,他常玩的AI聊天軟件是筑夢島App,他覺得該軟件“違禁詞少一點”,,其中不乏色情擦邊和“分尸獵奇”等內(nèi)容……
記者下載安裝筑夢島App,,隨機選擇一位虛擬互動對象,對方發(fā)來的第一句開場白就是“先叫聲老公來聽聽”,,隨后的對話中又提到“叫聲爸爸來聽聽”,。
圖為筑夢島App中部分與虛擬角色的對話,。
筑夢島App中的虛擬互動對象類型,既涵蓋貴族學(xué)校大小姐,、18歲少女,、西漢名將、高冷特工等常規(guī)角色,,也有蛇蝎財閥公子,、校霸、性感人妻,、病嬌養(yǎng)兄、人格障礙少爺?shù)葮O端角色,。