如何根治小天才手表的胡說八道 AI倫理困境凸顯

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-08-31 08:30:11 新浪財經(jīng)

智能手表的胡說八道，是不懂得人情世故，還是受到網(wǎng)絡(luò)錯誤答案的誤導(dǎo)

近期，360兒童手表的一款“語音問答”功能因一位網(wǎng)友的發(fā)現(xiàn)而成為了輿論熱點。該網(wǎng)友通過視頻展示,，向手表提問“中國人是否為世界上最聰明的人”，得到的回答卻涉及外貌特征,，引發(fā)了廣泛討論,。360集團的創(chuàng)始人兼董事長周鴻祎在8月22日和24日兩次公開致歉，并闡述了問題緣由及改進計劃,。他指出,，涉事的手表是基于2022年5月的舊版系統(tǒng)，未集成公司新開發(fā)的生成式AI模型,，答案來源于網(wǎng)絡(luò)公開信息,。目前，公司正緊急進行軟件升級,，預(yù)計在未來兩周內(nèi)完成部署,。

周鴻祎強調(diào)，盡管公司在內(nèi)容過濾方面已有一定措施,，但在處理涉及價值觀的開放性問題上還需加強,。最新的360兒童手表A9已經(jīng)接入了改進后的AI系統(tǒng)，并在實測中對類似敏感問題給出了更為中立的回答,。據(jù)統(tǒng)計,，360兒童手表的“語音問答”功能頗受歡迎,，日常使用率高達78%，特別是在假期,，兒童使用時間可長達30分鐘以上,。

周鴻祎同時表示，盡管技術(shù)在不斷進步,，但當前的生成式AI仍難以完全避免產(chǎn)生錯誤信息的問題,，公司正嘗試通過交叉驗證等手段減少此類情況的發(fā)生。隨著“AI+硬件”趨勢的興起,，多家科技巨頭正積極將AI大模型應(yīng)用于面向未成年人的產(chǎn)品中,，如百度的小度系列、美團的俏魚樂伴以及字節(jié)跳動的豆包AI業(yè)務(wù),，均推出了相關(guān)學(xué)習(xí)設(shè)備,。

市場數(shù)據(jù)顯示，智能手表特別是兒童智能手表的需求持續(xù)增長,，反映出消費者對結(jié)合AI技術(shù)的可穿戴設(shè)備的高接受度,。然而，與之形成對比的是,，針對未成年人的AI安全規(guī)范相對滯后,。目前，僅有少數(shù)指導(dǎo)性文件提及對兒童智能手表中AI算法的倫理審查,，強調(diào)保護兒童隱私及身心健康,，但具體實施細節(jié)仍在討論階段。

專家建議,，針對未成年人的AI應(yīng)用需加強內(nèi)容過濾機制,，參考相關(guān)標準對不健康內(nèi)容進行分類管理，并建立健全用戶反饋系統(tǒng),，以及時響應(yīng)市場變化和用戶需求,，確保AI技術(shù)在保障未成年人健康成長的前提下發(fā)揮積極作用。

(責任編輯：張蕾)

關(guān)閉

如何根治小天才手表的胡說八道 AI倫理困境凸顯

相關(guān)新聞

今日熱點

頻道熱點