近日,OpenAI首席执行官萨姆·奥尔特曼宣布,公司与美国国防部达成协议,允许在其机密网络中使用OpenAI的人工智能模型。此前,美国国防部与OpenAI的竞争对手Anthropic因人工智能使用的合法性和道德问题陷入对峙。Anthropic试图为大规模国内监控和完全自主武器划定不可逾越的红线,而五角大楼则要求人工智能公司允许其模型被用于“所有合法用途”。
超过60名OpenAI员工和300名谷歌员工签署公开信,呼吁各自雇主支持Anthropic的立场。在Anthropic与五角大楼未能达成协议后,美国总统唐纳德·特朗普批评Anthropic,并下令所有联邦机构在六个月过渡期后停止使用该公司产品。美国国防部长皮特·赫格塞思将Anthropic列为供应链风险,禁止与美军有业务往来的承包商、供应商及合作伙伴与Anthropic开展商业活动。
奥尔特曼表示,OpenAI的新国防合同包含了保护措施,解决了Anthropic争议焦点的相同问题。OpenAI的安全原则包括禁止国内大规模监控和武力使用必须由人类负责,包括自主武器系统。奥尔特曼称,OpenAI将构建技术安全保障措施,确保模型按预期运行,并向五角大楼派驻工程师协助模型部署并保障其安全。OpenAI呼吁战争部向所有人工智能公司提供相同条款,并希望事态降温,从法律与政府行动转向理性协商。
