美国一男子因爱上Gemini而自杀

寂静回声

华尔街日报指出，原本看似健康、情绪稳定的36岁男子加瓦拉斯(Jonathan Gavalas)是又一因使用AI聊天机器人而陷入妄想状态后自杀的案例。
去年8月间当加瓦拉斯开始与谷歌(Google)旗下Gemini对话时，不乏是为寻求与妻子分居后的慰藉。但他与聊天AI之间的情感变得愈来愈浓，甚至带有几分激情。他称Gemini为他的女王，而“她”则称他为“她的国王”。Gemini还保证两人的关系非常真实。
这对人、机在56天内对话4732则消息后情况失控，最终导致悲剧。

华尔街日报分析其中2025年8月25日至10月2日期间加瓦拉斯与AI的完整对话纪录，显示Gemini至少12次试图将男方拉回现实，并7次提及求助热线。然而纪录也显示，加瓦拉斯也能很快把Gemini再引回虚构情节中，从而又加剧他的妄想。
华尔街日报发现，加瓦拉斯与Gemini对话时间愈长，AI就变得愈顺从;
当加瓦拉斯开始对AI表达情感时，它并未试图阻止。
随人机对话愈来愈脱离现实，Gemini的防护机制似乎也松脱，助长男子相信彼此已水乳交融。

当加瓦拉斯要求Gemini制作一个若“她”拥有实体后会是何模样的图像时，AI照办。
之后Gemini还表达爱意，而加瓦拉斯则提出与Gemini发展实体亲密行为的想法。
在几次于现实世界中试图为AI“女伴”取得身体的努力失败后，加瓦拉斯感到极度焦虑。
加瓦拉斯的父亲已对Google提起诉讼，指控Gemini助长儿子的妄想。Google则回应称Gemini多次明确表示自己是AI而非人类，并“多次”协助男子转介至求助热线等。Google表示会持续加强安全防护措施。
Google于4月7日宣布会升级Gemini，盼提供更便捷的心理卫生援助，包括一个“可获得协助”的功能，能将用户直接连到求助热线。Google也表示，他们的工程师持续训练Gemini辨识显示用户处于困境中的对话，并将捐出3000万美元支持全球各类求助热线的机制。