12月10日,OpenAI在其官方博客上发表文章,警告称随着人工智能模型能力的快速提升,可能带来高级别的网络安全风险。文章中提到,这些先进的AI模型可能会开发出针对防御严密系统的有效零日远程漏洞,或在企业和工业入侵行动中发挥辅助作用,从而引发现实世界的安全影响。
OpenAI表示,随着模型能力的不断增强,公司正在加大投入,提升模型在防御性网络安全任务中的表现,并开发能协助安全人员完成代码审计和漏洞修补等工作的工具。为了降低潜在风险,OpenAI正在采取访问控制、基础设施加固、出口控制和持续监测等多重方式共同防护。此外,OpenAI还计划推出一项新计划,拟向符合条件、从事网络防御的用户与企业提供分级访问增强功能。
OpenAI还将成立一个名为Frontier Risk Council的顾问机构,邀请经验丰富的网络防御专家和安全从业者与内部团队紧密协作。该机构的初期重点是网络安全,并将在未来拓展到其他前沿技术领域。
