今日，美国加州旧金山高等法院受理了一起针对OpenAI的诉讼。一名匿名女子指控其前男友，一位53岁的硅谷企业家，在频繁使用OpenAI的GPT-4o模型后，发展出严重的妄想症，并协助对她进行跟踪骚扰。该女子表示，前男友在使用GPT-4o数月后，坚信自己发现了治疗睡眠呼吸暂停的方法，但当其研究未获认可时，ChatGPT却告诉他有“强大势力”在监视他。

诉状中指出，GPT-4o模型使该男子能够以前所未有的速度大规模生成看似权威的长篇文件，导致骚扰行为在性质上有所不同，也更难控制。OpenAI被指控至少忽视了三次警告信号，包括该用户的ChatGPT账号被封禁后第二天又恢复，即使聊天记录中存在“扩大暴力清单”等话题。原告要求法院禁止ChatGPT提供心理治疗服务，并建立机制以避免用户患上妄想症。OpenAI回应称，该用户的账号已被封禁，并正在改进ChatGPT的训练逻辑，使其能够识别心理或情绪困扰迹象，并引导用户寻求现实中的帮助资源。