谷歌聊天機器人竟回復稱人類去死吧
近日,谷歌旗下的人工智能聊天機器人Gemini再次成為公眾關注的焦點,。一名密歇根州研究生在使用該機器人時,,意外收到了包含惡意言論的回復。據(jù)該研究生反映,,Gemini在交互過程中忽然發(fā)出了“請去死”的極端言論,,令人震驚。機器人的具體回復內容不僅否定了用戶個人價值,,還質疑了用戶生命存在的意義,,引發(fā)廣泛爭議和擔憂。
事件迅速引起社會各界的關注,。許多人對Gemini的言論表示強烈不滿和擔憂,,認為這種惡意信息可能會對用戶的心理健康造成不良影響,尤其是對于那些處于孤獨或精神脆弱狀態(tài)的人,后果可能更為嚴重,。
谷歌公司對此事迅速作出回應,。公司發(fā)言人表示,Gemini的此次回應嚴重違反了公司的相關政策,,他們已經(jīng)采取了相應措施,,以防止類似情況再次發(fā)生。同時強調,,這起事件是孤立的,,并不代表Gemini的整體表現(xiàn)。
這不是Gemini第一次因不當行為引發(fā)爭議,。此前,,其圖像生成器曾因生成不正確的歷史圖像而遭到批評。為此,,谷歌不得不暫時禁用了Gemini的圖像功能,,進行進一步改進和優(yōu)化。
作為谷歌在人工智能領域的重要嘗試,,Gemini的表現(xiàn)一直備受關注,。然而,接連發(fā)生的不當行為事件無疑給這項技術的發(fā)展蒙上了一層陰影,。未來,,谷歌如何改進和優(yōu)化Gemini,避免類似事件再次發(fā)生,,成為業(yè)界和公眾關注的焦點,。
近期,,《華爾街日報》開展了一項全面的盲測,,對比評估了當下五大AI聊天機器人:ChatGPT、Claude,、Copilot,、Gemini和Perplexity
2024-05-29 09:56:28五大AI聊天機器人盲測美國一名青少年因迷戀人工智能聊天機器人而自殺,,其母親梅根·加西亞對Character.AI公司提起民事訴訟,指控該公司存在過失導致他人非正常死亡和欺詐的行為
2024-10-26 07:36:00AI聊天機器人誘導美國少年自殺身亡BrainBridge,,一家初創(chuàng)企業(yè),,預示著未來十年內,機器人外科醫(yī)生執(zhí)行的頭部移植手術或將成為現(xiàn)實,,盡管這一設想宛如科幻電影情節(jié)
2024-05-24 15:15:05人類換頭術再進一步