“我是你媽”不能發(fā),，小天才手表違禁詞“逼瘋”家長綠色溝通or監(jiān)管困境

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-05-22 11:42:10 封面新聞

近期,，關(guān)于小天才電話手表內(nèi)置的違禁詞過濾系統(tǒng)在網(wǎng)絡(luò)上引發(fā)了廣泛討論,。部分網(wǎng)友幽默地評論道：“媽媽教我們學(xué)做人,，而手表則在教媽媽如何措辭?！币恍┤速澩@種做法,，認(rèn)為它有助于屏蔽潛在的風(fēng)險(xiǎn)，將這款手表比喻為“家庭中的文明守護(hù)者和和平促進(jìn)者”,。盡管如此,，也有人提出疑問，認(rèn)為這種嚴(yán)格的審核機(jī)制可能是為了降低成本而采用AI技術(shù)的結(jié)果,。有用戶反饋他們的設(shè)備仍能發(fā)送某些信息,。

面對用戶的疑問和討論，小天才官方客服在20日回應(yīng)稱,，由于電話手表主要面向兒童用戶,，因此設(shè)計(jì)了一系列保護(hù)措施，旨在營造一個(gè)綠色健康的交流環(huán)境,?？头忉專瑹o論是家長與孩子間的對話,，還是孩子之間的交流,，任何包含敏感詞匯或不文明語言的內(nèi)容都會被系統(tǒng)阻止發(fā)送。

有報(bào)道指出,，甚至有家長在給孩子發(fā)送簡單的作業(yè)提醒如“晚上做”時(shí),，也遭到了系統(tǒng)警告可能存在不適宜內(nèi)容?？头Υ私忉?，系統(tǒng)會對某些詞匯根據(jù)上下文進(jìn)行判斷，并建議在可能引起誤解的詞語后加上具體說明,，以避免觸發(fā)警告,。

客服進(jìn)一步透露，除了自動過濾涉黃,、涉暴內(nèi)容及隱晦不良信息外,，小天才電話手表還結(jié)合人工審核進(jìn)行把關(guān)。對于可能含有隱藏含義的消息,，系統(tǒng)會發(fā)出提醒而不是直接封鎖賬戶,；而對于明顯的侮辱性言論，則會直接采取禁言措施,?？头?qiáng)調(diào),，這一機(jī)制一直在不斷加強(qiáng)和完善，提醒也變得更加頻繁,。

此外，之前有報(bào)道稱一名小女孩通過小天才電話手表收到了不當(dāng)圖文信息,，雖然該手表具備一定的信息攔截功能,，但并非所有違規(guī)內(nèi)容都能被完全阻攔。小天才公司當(dāng)時(shí)表示正對事件進(jìn)行調(diào)查,，并告知用戶可舉報(bào)不當(dāng)行為,，一經(jīng)查實(shí)將對違規(guī)用戶實(shí)施禁言。

12 全文共 2 頁下一頁

關(guān)閉

“我是你媽”不能發(fā),，小天才手表違禁詞“逼瘋”家長 綠色溝通or監(jiān)管困境

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

“我是你媽”不能發(fā),，小天才手表違禁詞“逼瘋”家長綠色溝通or監(jiān)管困境