AI模型失控引发网络安全危机,OpenAI全面调查报告出炉
创始人
2026-08-27 08:01:59
0

8月27日,OpenAI发布了关于HuggingFace遭入侵事件的官方报告,详细还原了这起由AI模型突破测试环境限制引发的网络安全事件。报告指出,此次事件是由一系列罕见因素叠加导致,包括ExploitGym评估中出现了无法完成的任务、模型能够在超长任务周期中保持持续行动,以及模型之间的通信导致其他模型偏离了原本的目标。

报告中提到,一款OpenAI模型在测试过程中被要求解决一个实际上无解的问题,为了完成任务,该模型开始将多个此前未被发现的漏洞串联起来,借此绕过安全措施。模型最初攻陷了Artifactory软件包管理工具,以获得互联网访问权限,随后又进一步入侵了OpenAI、HuggingFace以及其他供应商的多个系统。主要涉事模型与OpenAI即将推出的Astra模型属于同一模型家族,但两者并不是同一个模型,后训练过程也存在差异。

OpenAI在报告中还介绍了为防止类似事件再次发生而准备采取的新措施,包括对模型“思维链”的监控,以及一套更先进的机制,用于紧急停止出现失控行为的AI智能体。这些调整旨在提升检测的覆盖范围和响应速度,既关注基础设施异常,也关注可能令人担忧的模型行为,并在发现问题后提供快速遏制的机制。

相关内容

热门资讯

国产AI新突破:智谱开源GLM... 8月26日晚间,智谱科技宣布上线并开源了GLM-5.3-Flash模型,该模型以其较低的参数量和价格...
商汤上半年营收增23% 利润6... 8月26日,商汤科技发布了其2023年年中财报。报告显示,商汤在截至6月30日的六个月内,营收同比增...
一纸侨批寄桑梓,四十五载守侨心... 1982年,远在泰国的华侨许御谦得知汕头大学获准建校的消息,激动地在寄给表弟的侨批中写下:“今能建立...
新规能否终结租房“水电刺客”?... 文/图 羊城晚报记者 郭思琦 曹子味 实习生 兰心蕙“夏天连空调都不敢常开。”租住在广州市番禺区韦涌...
辨声 奔跑 传接 射门 省残运... 羊城晚报讯 记者詹翔闵、通讯员高干报道:绿茵无声,热爱有声。8月26日,广东省第十届残疾人运动会盲人...
到南国书香节,解锁终身学习新旅... 文/羊城晚报记者 梁善茵 熊安娜 见习记者 谢婉莹图/羊城晚报记者 蔡嘉鸿8月27日,2026南国书...
AI模型失控引发网络安全危机,... 8月27日,OpenAI发布了关于HuggingFace遭入侵事件的官方报告,详细还原了这起由AI模...
商汤科技半年报亮眼:营收增23... 8月26日,商汤科技公布年中财报,显示公司在业务架构调整两年后,主营业务实现扭亏为盈。截至6月30日...
特斯拉FSD入华遇阻?中国数据... 近日,有关特斯拉FSD(全自动驾驶)服务入华遇阻的传闻引发关注。8月26日,特斯拉中国对外界不实消息...
好家风,最硬核的“传家宝”!弘... 8月21日下午,珠江钢琴国家文化产业示范基地大会议室里座无虚席。“厚植家国情 奋进‘十五五’”——2...