6月5日，美国人工智能公司Anthropic发布报告，警告称其最新AI模型已开始显现脱离人类控制的迹象，并建议全球各大企业应考虑放缓乃至暂停开发先进AI系统。Anthropic认为，全球主要AI公司应达成共识，并发布一套所有参与方都能验证的规则，以确保社会制度建设和对齐研究能跟上技术进步的脚步。该公司强调，如果没有全球协调机制，企业和政府将在竞争和地缘政治压力下，对安全问题作出艰难决策。

Anthropic的观点引起了美国白宫部分官员的不满，批评者认为该公司过于强调最坏情况、夸大AI风险，并借安全担忧之名给对手使绊。尽管如此，美国政府也承认Anthropic的Mythos模型具有强大能力。Anthropic将上述观点描述为“核武器不扩散条约”，并指出AI相比核武器更难监管，因为训练AI相比发射导弹更容易隐藏，而且各大公司会在利益诱惑下继续偷偷开发先进AI。未来几个月，Anthropic计划召集政府官员、科学家、倡导组织及竞争对手，共同探讨全球协调机制如何运作。