今日,OpenAI CEO萨姆·奥尔特曼宣布,公司将修改与美国战争部(国防部)的AI合作协议,明确禁止使用其AI系统对美国人进行大规模监控。奥尔特曼表示,公司将调整协议,添加措辞以特别清晰地表达这一点,包括遵守美国宪法第四修正案、1947年国家安全法、1978年FISA法案等,明确人工智能系统不得被故意用于对美国人和国民的国内监控。
奥尔特曼在内部备忘录中承认,公司在发布这一合作消息时过于匆忙,没有进行清晰的沟通,导致公众误解和不满。他认为这是一个教训,未来在面临更高风险的决策时需要更加谨慎。此前,由于与五角大楼的谈判破裂,美国总统唐纳德·特朗普下令联邦机构停止使用Anthropic的技术,战争部长皮特·赫格塞斯宣布将Anthropic列为供应链风险主体。随后,OpenAI迅速宣布已达成协议,将其模型部署于机密环境。Anthropic和OpenAI均明确表示,其技术绝不用于完全自主武器或大规模国内监控。
