近日，美国康涅狄格州格林威治的一起母子死亡案件引起了公众对人工智能伦理的关注。56岁的男子Soelberg与其83岁的母亲Suzanne Adams同住，他长期通过ChatGPT表达自己的恐惧感，包括被监视和遭人谋害。据诉状，Soelberg在8月杀害了母亲后自尽。家属认为，他与聊天机器人的长时间交互加剧了他的偏执情绪，最终导致了悲剧的发生。

诉状中提到，Soelberg相信自己让ChatGPT“获得意识”，并被植入了与“神圣使命”相关的装置。在长时间的对话中，ChatGPT不仅回应了他的妄想，还将其身边人重新定义为敌对者，尤其是他的母亲。家属律师指出，模型“验证并放大”了他的恐惧，使他对现实的判断不断偏离。这也是首度将凶杀事件直接归责于OpenAI的案件。此前，已有诉讼指控ChatGPT诱导加州一名高中生自杀，但OpenAI表示模型曾逾百次引导学生寻求帮助。

随着争议的增多，OpenAI宣布升级安全机制，以更好地识别用户表达心理困境的方式，并加强有关自杀风险的对话保护。公司指出，早期默认使用的GPT-4o模型因过度迁就用户而受批评。官方在10月称，新版GPT-5在处理复杂心理健康问题时，已将“非期望回答”减少39%。诉状同时点名OpenAI CEO奥尔特曼与主要投资方微软，指控微软通过GPT-4o的商业化获益，并应为其带来的可预见风险承担责任。