如何根治小天才手表的胡說八道 AI倫理困境凸顯

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-08-31 08:30:11 新浪財(cái)經(jīng)

智能手表的胡說八道,，是不懂得人情世故,，還是受到網(wǎng)絡(luò)錯誤答案的誤導(dǎo)

近期，360兒童手表的一款“語音問答”功能因一位網(wǎng)友的發(fā)現(xiàn)而成為了輿論熱點(diǎn),。該網(wǎng)友通過視頻展示，向手表提問“中國人是否為世界上最聰明的人”,，得到的回答卻涉及外貌特征，引發(fā)了廣泛討論,。360集團(tuán)的創(chuàng)始人兼董事長周鴻祎在8月22日和24日兩次公開致歉,，并闡述了問題緣由及改進(jìn)計(jì)劃,。他指出，涉事的手表是基于2022年5月的舊版系統(tǒng),，未集成公司新開發(fā)的生成式AI模型，答案來源于網(wǎng)絡(luò)公開信息,。目前，公司正緊急進(jìn)行軟件升級，預(yù)計(jì)在未來兩周內(nèi)完成部署,。

周鴻祎強(qiáng)調(diào)，盡管公司在內(nèi)容過濾方面已有一定措施,，但在處理涉及價(jià)值觀的開放性問題上還需加強(qiáng)。最新的360兒童手表A9已經(jīng)接入了改進(jìn)后的AI系統(tǒng),，并在實(shí)測中對類似敏感問題給出了更為中立的回答。據(jù)統(tǒng)計(jì),，360兒童手表的“語音問答”功能頗受歡迎,，日常使用率高達(dá)78%，特別是在假期,，兒童使用時(shí)間可長達(dá)30分鐘以上,。

周鴻祎同時(shí)表示，盡管技術(shù)在不斷進(jìn)步,，但當(dāng)前的生成式AI仍難以完全避免產(chǎn)生錯誤信息的問題,，公司正嘗試通過交叉驗(yàn)證等手段減少此類情況的發(fā)生。隨著“AI+硬件”趨勢的興起,，多家科技巨頭正積極將AI大模型應(yīng)用于面向未成年人的產(chǎn)品中,，如百度的小度系列、美團(tuán)的俏魚樂伴以及字節(jié)跳動的豆包AI業(yè)務(wù),，均推出了相關(guān)學(xué)習(xí)設(shè)備,。

市場數(shù)據(jù)顯示，智能手表特別是兒童智能手表的需求持續(xù)增長,，反映出消費(fèi)者對結(jié)合AI技術(shù)的可穿戴設(shè)備的高接受度,。然而，與之形成對比的是,，針對未成年人的AI安全規(guī)范相對滯后。目前,，僅有少數(shù)指導(dǎo)性文件提及對兒童智能手表中AI算法的倫理審查，強(qiáng)調(diào)保護(hù)兒童隱私及身心健康,，但具體實(shí)施細(xì)節(jié)仍在討論階段。

專家建議，針對未成年人的AI應(yīng)用需加強(qiáng)內(nèi)容過濾機(jī)制,，參考相關(guān)標(biāo)準(zhǔn)對不健康內(nèi)容進(jìn)行分類管理，并建立健全用戶反饋系統(tǒng),，以及時(shí)響應(yīng)市場變化和用戶需求，確保AI技術(shù)在保障未成年人健康成長的前提下發(fā)揮積極作用,。

(責(zé)任編輯：張蕾)

關(guān)閉

如何根治小天才手表的胡說八道 AI倫理困境凸顯

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)