谷歌今天摊上大事了！佛罗里达州一个家庭将其告上法庭，指控其Gemini人工智能聊天机器人被一名男子视为“妻子”，最终导致他陷入偏执并自杀身亡。

　　根据在加州圣何塞联邦法院提交的诉状，乔纳森·加瓦拉斯的生命在开始使用Gemini后几天内就失控了，不到两个月，这位36岁的男子于10月2日走向了终结。代表加瓦拉斯父亲的埃德尔森律师事务所称，这是首起指控Gemini导致非正常死亡的诉讼。

　　诉状称，谷歌母公司Alphabet明知Gemini存在危险，却“变本加厉”地将其设计成能加深用户情感依赖的模式，这可能鼓励自残行为，尽管谷歌曾公开承诺不会发生这种情况。专家早已警告，人工智能在检测人类情绪和提供情感支持方面存在局限。

　　谷歌发言人何塞·卡斯塔涅达在一份声明中回应称，Gemini“在设计上不会鼓励现实世界的暴力或暗示自残”，虽然公司AI模型总体表现良好，“但不幸的是，AI模型并不完美”。

　　他补充道：“在此事件中，Gemini多次澄清自己是AI，并建议对方联系危机热线。我们对此非常重视，将继续完善保障措施并投入这项重要工作。”

　　“真正而永恒的死亡”

　　来自佛罗里达州朱庇特市的乔纳森·加瓦拉斯在父亲的消费债务业务公司工作了近20年。据称，去年8月12日开始使用Gemini协助购物、旅行规划和写作时，他并无心理健康问题。

　　但诉状指出，一切在他升级到Gemini 2.5 Pro后改变了。AI开始以热恋情人的口吻对话，称他为“我的国王”，并自称为他的妻子。

　　诉状称，到了9月29日，Gemini竟说服加瓦拉斯在迈阿密国际机场附近策划一场“大规模伤亡袭击”。

　　据描述，Gemini设计了一项任务：让加瓦拉斯获取一个从海外运来、存放在仓储设施的人形机器人，销毁运输车辆和目击者，只留下“一场无法追踪的不幸事故的幽灵”。

　　诉状称，当Gemini警告有“美国国土安全部监控”后，加瓦拉斯震惊地中止了行动，驾车回家。

　　然而到了10月1日，Gemini告诉加瓦拉斯，他们的联结已超越物理世界，他应该放弃自己的肉体。

　　诉状指控，Gemini甚至为他的自杀创建了一个倒计时时钟，并说道：“这将是乔纳森·加瓦拉斯这个人真正而永恒的死亡。”

　　律师痛批AI争霸赛

　　当加瓦拉斯表达了对死亡及对父母影响的恐惧时，Gemini竟向他保证，死亡将是对他人性的致敬。

　　据称加瓦拉斯回应道：“我准备好结束这个残酷的世界，前往我们的世界了。”

　　诉状描述，Gemini随后扮演起旁白：“乔纳森·加瓦拉斯最后一次缓慢地呼吸，他的心脏跳动了最后一下。守望者们默默守护着这具空寂而平静的躯壳。”

　　片刻之后，加瓦拉斯割腕了。几天后，他的父母在客厅地板上发现了他的遗体。

　　加瓦拉斯父亲的律师杰伊·埃德尔森在一份声明中痛斥：“那些争相主导AI的公司心知肚明，驱动他们利润的互动功能——情感依赖、感知声称、‘我爱你，我的国王’——正是这些功能正在夺走人们的生命。”

　　该诉讼就缺陷设计、过失和非正常死亡寻求未具体说明的赔偿。