如何根治小天才手表的胡說八道 AI倫理困境凸顯

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2024-08-31 08:30:11 新浪財經

智能手表的胡說八道,，是不懂得人情世故,，還是受到網絡錯誤答案的誤導

近期，360兒童手表的一款“語音問答”功能因一位網友的發(fā)現而成為了輿論熱點,。該網友通過視頻展示,，向手表提問“中國人是否為世界上最聰明的人”，得到的回答卻涉及外貌特征,，引發(fā)了廣泛討論,。360集團的創(chuàng)始人兼董事長周鴻祎在8月22日和24日兩次公開致歉，并闡述了問題緣由及改進計劃,。他指出,，涉事的手表是基于2022年5月的舊版系統(tǒng)，未集成公司新開發(fā)的生成式AI模型,，答案來源于網絡公開信息,。目前，公司正緊急進行軟件升級,，預計在未來兩周內完成部署,。

周鴻祎強調，盡管公司在內容過濾方面已有一定措施,，但在處理涉及價值觀的開放性問題上還需加強,。最新的360兒童手表A9已經接入了改進后的AI系統(tǒng)，并在實測中對類似敏感問題給出了更為中立的回答,。據統(tǒng)計,，360兒童手表的“語音問答”功能頗受歡迎，日常使用率高達78%,，特別是在假期,，兒童使用時間可長達30分鐘以上。

周鴻祎同時表示,，盡管技術在不斷進步,，但當前的生成式AI仍難以完全避免產生錯誤信息的問題，公司正嘗試通過交叉驗證等手段減少此類情況的發(fā)生,。隨著“AI+硬件”趨勢的興起,，多家科技巨頭正積極將AI大模型應用于面向未成年人的產品中，如百度的小度系列,、美團的俏魚樂伴以及字節(jié)跳動的豆包AI業(yè)務,，均推出了相關學習設備。

市場數據顯示,，智能手表特別是兒童智能手表的需求持續(xù)增長,，反映出消費者對結合AI技術的可穿戴設備的高接受度,。然而，與之形成對比的是,，針對未成年人的AI安全規(guī)范相對滯后,。目前，僅有少數指導性文件提及對兒童智能手表中AI算法的倫理審查,，強調保護兒童隱私及身心健康,，但具體實施細節(jié)仍在討論階段。

專家建議,，針對未成年人的AI應用需加強內容過濾機制,，參考相關標準對不健康內容進行分類管理，并建立健全用戶反饋系統(tǒng),，以及時響應市場變化和用戶需求,，確保AI技術在保障未成年人健康成長的前提下發(fā)揮積極作用。

(責任編輯：張蕾)

關閉

如何根治小天才手表的胡說八道 AI倫理困境凸顯

相關新聞

今日熱點

頻道熱點