6月24日,美国政府官员透露,在一场测试演练中,人工智能公司Anthropic的AI模型成功检出美国高安全等级政府计算机系统存在多处漏洞。Anthropic与美国多家情报机构合作,使用其Mythos模型开展测试,模型仅耗时数小时就定位出若干系统漏洞。本次测试隶属于Anthropic推出的ProjectGlasswing项目,旨在保护全球关键软件系统,规避Mythos模型一旦被滥用可能带来的严重破坏性后果。
弗吉尼亚州民主党联邦参议员马克·沃纳在6月11日的参议院听证会上提到了此次测试,称这款工具仅用数小时就几乎攻破了全部机密系统。尽管Anthropic近期与美国政府机构合作开展漏洞检测,但这家加州企业与特朗普政府之间的矛盾持续加剧。Anthropic对美军使用其人工智能技术的方式表达担忧,而政府方面则限制了Anthropic多款模型的使用权限。白宫发布指令,要求Anthropic禁止外籍人员使用其两款最新人工智能模型:Fable5与Mythos5。Anthropic已关停全部客户对上述两款模型的访问权限,称政府担忧的潜在安全风险不足以支撑此番管控措施。
