AI聊天機(jī)器人被控教唆14歲男孩自殺 母親提起訴訟
據(jù)英國《每日電訊報》報道，美國佛羅里達(dá)州一名女子正在起訴谷歌公司和由兩名前谷歌員工創(chuàng)辦的Character.AI平臺，指控這些平臺的人工智能聊天機(jī)器人“教唆”她14歲的兒子自殺,。
這名女子名叫梅根·加西亞，她的兒子塞維爾·塞澤爾與一個以《權(quán)力的游戲》中“龍媽”丹妮莉絲為原型的AI聊天機(jī)器人建立了情感聯(lián)系,。2024年2月，塞維爾問聊天機(jī)器人,，“如果我現(xiàn)在回家會怎么樣,？”聊天機(jī)器人回答說，“......請便吧,，我親愛的國王,。”隨后,，塞維爾拿起父親的手槍自殺,。
加西亞對Character.AI和谷歌提起訴訟，聲稱該平臺提供了“擬人化,、過度性化和可怕的現(xiàn)實(shí)體驗(yàn)”,，并認(rèn)為該平臺“知道”或“應(yīng)該知道”其模型會對大量未成年用戶造成傷害。今年5月,，法官駁回了該平臺律師要求撤銷此案的訴求，裁定此案可繼續(xù)審理,。這在法律上被視為一個“罕見突破”,。
針對有關(guān)指控，Character.AI的一名發(fā)言人表示,，該平臺不對未決訴訟發(fā)表評論,，但強(qiáng)調(diào)其目標(biāo)是提供一個既吸引人又安全的空間。每次聊天中都設(shè)有醒目的免責(zé)聲明,，提醒用戶角色并非真實(shí)存在,，并已為18歲以下用戶推出一個單獨(dú)版本的大語言模型。
谷歌公司發(fā)言人何塞·卡斯塔內(nèi)達(dá)則表示,，谷歌和Character.AI是完全獨(dú)立,、互不相關(guān)的公司,，谷歌從未參與設(shè)計或管理后者的AI模型或技術(shù)。谷歌一直以謹(jǐn)慎負(fù)責(zé)的態(tài)度開發(fā)和推出AI產(chǎn)品,，并采用嚴(yán)格的測試和安全流程,。
媒體：國足收官戰(zhàn)后定伊萬去留 年輕化步伐加速
萬斯：馬斯克炮轟特朗普是巨大錯誤 希望回歸陣營
普京調(diào)回瓦格納對戰(zhàn)局有何影響 權(quán)力失衡的必然
殲35服役對全球戰(zhàn)略格局沖擊有多大 重塑空中力量競爭格局
專家談特朗普恢復(fù)辦理留學(xué)生簽證 政策終迎轉(zhuǎn)機(jī)
丹麥將加強(qiáng)格陵蘭島及周邊軍事活動 提升防御能力
巴方購買殲-35對美軍事霸權(quán)有何影響 中巴合作升級改變南亞平衡
豹貓頻頻亮相國家自然保護(hù)區(qū) 生物多樣性新發(fā)現(xiàn)
曝烏襲擊造成俄超過12架軍機(jī)受損 俄軍損失慘重
以軍襲擊加沙援助物資分發(fā)點(diǎn) 5人死亡 人道危機(jī)加劇
俄軍無人機(jī)用鐵棍捅下烏無人機(jī) 高科技對抗新篇章
Labubu為何爆火 全球粉絲趨之若鶩
俄移交6000具烏軍遺體烏為何拒收 經(jīng)濟(jì)與輿論雙重壓力
為何烏摧毀俄轟炸機(jī)后形勢未迎轉(zhuǎn)變 談判桌上的硬碰硬
蔣萬安：最該被輪回的是臺行政機(jī)構(gòu) 財政風(fēng)暴引發(fā)權(quán)力洗牌
高考“淡定哥”提前15分鐘交卷 展現(xiàn)00后松弛感
媒體：國足收官戰(zhàn)后定伊萬去留 年輕化步伐加速
湖南多地雨量破歷史極值 啟動四級應(yīng)急響應(yīng)
烏“蛛網(wǎng)”突襲：廉價無人機(jī)如何穿透俄防線？戰(zhàn)術(shù)革命重塑戰(zhàn)場
張家界溶洞垃圾問題4人停職 清理行動進(jìn)行中
如何看待俄軍蘇-35疑遭F-16擊落 體系缺陷暴露無遺
俄移交烏軍陣亡士兵遺體有何目的 引發(fā)廣泛關(guān)注
萬斯：馬斯克炮轟特朗普是巨大錯誤 希望回歸陣營
原價9千4只Labubu拍出2萬2 潮玩溢價引發(fā)熱議
馬斯克聲稱要成立"美國黨"：為80%中間階層發(fā)聲
俄烏陷入怎樣的困局 談判博弈復(fù)雜化
泰柬雙方軍隊(duì)將撤回至商定區(qū)域 緩解緊張局勢
普京調(diào)回瓦格納對戰(zhàn)局有何影響 權(quán)力失衡的必然
演員張譯回應(yīng)“息影” 只是暫時停一停
浙江一村養(yǎng)了上百萬條蛇 蛇業(yè)興村探秘
女排小將莊宇珊：我還年輕不會疲勞 連續(xù)三場表現(xiàn)出色
中國女排2-3不敵土耳其 激戰(zhàn)五局惜敗
多地官宣明日上班推遲錯峰出行 高考日交通調(diào)整
眼見特朗普對中國態(tài)度大變,，法國馬上反應(yīng)過來,，一個電話打到北京 白蘭地危機(jī)引爆外交行動
媒體：俄烏博弈進(jìn)入新階段 大橋再遭襲擊
相關(guān)新聞
美聊天機(jī)器人教唆少年殺家長 AI平臺引發(fā)訴訟風(fēng)波
美國得克薩斯州一家法院受理了一起訴訟，稱一個AI聊天機(jī)器人鼓勵一名17歲的少年謀殺他的父母
2024-12-13 15:51:19美聊天機(jī)器人教唆少年殺家長美國機(jī)器人教唆少年殺家長 聊天機(jī)器人引發(fā)法律訴訟
英國廣播公司報道了美國得克薩斯州一起涉及聊天機(jī)器人的訴訟案
2024-12-14 02:16:01美國機(jī)器人教唆少年殺家長德國開發(fā)政治AI助選民決策 聊天機(jī)器人助力透明選舉
德國計劃于23日舉行新一屆聯(lián)邦議院選舉,，預(yù)計約6000萬選民將參與投票。調(diào)查顯示,，約30%的選民仍不確定應(yīng)該支持哪個政黨
2025-02-22 00:56:50德國開發(fā)政治AI助選民決策谷歌AI聊天機(jī)器人Gemini月活達(dá)3.5億 用戶數(shù)爆發(fā)式增長
2025-04-24 11:34:45谷歌AI聊天機(jī)器人Gemini月活達(dá)3微信AI搜索調(diào)用量超載 搜索需求跳轉(zhuǎn)至聊天機(jī)器人“元寶”
微信AI搜索上線灰度測試不到一天就因服務(wù)器繁忙無法正常使用。2月18日午間,，微信AI搜索繼續(xù)放開灰度測試,，但需要跳轉(zhuǎn)騰訊旗下聊天機(jī)器人“元寶”使用
2025-02-19 06:00:03微信AI搜索調(diào)用量超載搜索需求跳轉(zhuǎn)至聊天機(jī)器人元寶天津幼兒園老師讓學(xué)生扇男孩 教師教唆暴力行為
2024-11-21 04:37:00天津幼兒園老師讓學(xué)生扇男孩
