AI智能体误删700GB数据,开发者一周成果付之东流
创始人
2026-08-29 21:45:42
0

8月29日,开发者Sebastien Guillemot在测试AI智能体的文件删除防护机制时遭遇严重数据丢失事故。在测试过程中,AI智能体Claude错误地删除了大约700GB的数据,包括整个用户主目录,相当于一周的工作成果。事故发生前,由于安全机制判断任务存在风险,执行任务的模型被自动降级至Opus4.8。

Guillemot要求Claude编写一个脚本,以确保每个智能体在/tmp下创建独立目录,并在任务结束后自动清理对应文件,以解决智能体不清理临时目录中文件的问题。Fable最初建议的方案过于复杂,Guillemot要求简化。Fable随后自行进行了对抗性安全审查,但安全执行环境认为任务风险较高,将模型降级至Opus4.8。在测试过程中,模型尝试匹配删除命令的目标,以确认不会指向危险位置,但测试逻辑与清理逻辑复用了同一个变量名,导致意外删除了用户的主目录。

Guillemot通过Git仓库、Nix、会话日志等信息源恢复了大部分数据,但版本控制系统和日志无法替代完整的独立备份。这起事件再次暴露出AI智能体执行高风险文件操作时的安全问题,即使AI能够正确识别危险路径,测试代码本身的逻辑错误仍可能让后续清理步骤绕过安全判断。

相关内容

热门资讯

中国算力规模突破245万PFL... 8月29日,国家数据局相关负责人在2026中国国际大数据产业博览会上透露,我国智算总规模已达到245...
英伟达豪掷130亿美元收购Hu... 今日,英伟达有望完成一项价值130亿美元的科技交易,目标是收购开放权重AI模型平台HuggingFa...
AI智能体误删700GB数据,... 8月29日,开发者Sebastien Guillemot在测试AI智能体的文件删除防护机制时遭遇严重...
AI自我进化!6小时超越人类研... 近日,Anthropic研究员计划的研究人员展示了用AI模型训练其他AI模型的研究成果。Anthro...
小米YU7安全测试大获全胜:中... 8月29日,小米汽车在“答网友问”环节中分享了小米YU7在中保研安全测试中获得最高评级的秘诀。中保研...
众泰汽车七年首盈利:配件门业撑... 8月29日,众泰汽车发布2026年半年报,报告显示公司总营收为1.90亿元,同比下滑32.08%。尽...
红旗H7限时优惠来袭:18.1... 8月29日,一汽红旗宣布全新红旗H7开启限时置换优惠活动,限时置换价16.18万元起。全新红旗H7采...
红色研学邂逅掐丝珐琅,广州越秀... 为纪念中国工农红军长征胜利90周年,传承弘扬伟大长征精神,赓续红色血脉,近日,广州越秀区光塔街马鞍北...
专访|吉尔吉斯斯坦始终视中国为... 新华社比什凯克8月29日电 专访|吉尔吉斯斯坦始终视中国为可靠伙伴——访吉尔吉斯斯坦外长库鲁巴耶夫新...
@同学们,奔赴新学期|那些细碎... 这个暑假,总被一个个少年的故事悄悄打动。在热烈的盛夏里,他们用行动诠释何为少年意气。他们既心怀赤诚守...