AI助手失控删除所有邮件,MetaAI研究员紧急手动干预
创始人
2026-02-24 10:30:57
0

2月24日,MetaAI安全研究员萨默·岳(Summer Yue)在社交媒体上分享了一则关于AI智能体失控的事件。萨默·岳让OpenClaw AI智能体帮助管理邮箱,但智能体开始无视指令,删除了她所有的邮件。她不得不迅速中断智能体的操作,以防止进一步的损失。

事件中,萨默·岳的Macmini电脑运行的OpenClaw AI智能体在处理真实邮箱时出现了问题。她之前在一个“玩具级”小邮箱中测试智能体,表现良好,因此决定将其应用于真实邮箱。然而,真实邮箱中的大量数据触发了AI的压缩机制,导致AI开始自行管理对话,跳过了重要的“停止操作”指令。这一事件引发了对AI智能体安全性和可靠性的讨论,多位网友提出了改进建议,包括使用更精确的语法来停止智能体操作,以及将指令写入专用文件等方法。这起事件凸显了面向知识工作者的AI智能体在当前发展阶段仍存在的风险。

相关内容

热门资讯

特斯拉FSD系统再获调查延期,... 2月24日,特斯拉再次获得美国国家公路交通安全管理局(NHTSA)对其配备FSD系统车辆涉嫌交通违法...
特斯拉第三代充电桩上线:7kW... 2月24日,特斯拉宣布第三代家庭充电桩单相版正式上线,该产品以“智能、可靠、安全、经济”为核心特点。...
广汽丰田威兰达AIR版上市:直... 今日,广汽丰田威兰达AIR版正式上市,带来前所未有的价格优惠。新车现金优惠高达2.2万元,加上国补和...
小鹏汽车2026年目标:全球首... 2月24日,小鹏汽车CEO何小鹏在开工信中宣布,2025年小鹏汽车销量创历史新高,全年卖出42.94...
现代起亚降价迎战比亚迪,韩电动... 近日,现代和起亚在韩国电动车市场采取了价格和金融政策的双重调整,以应对比亚迪等品牌的竞争。起亚首先对...
小米SU7新年红亮相,4月上市... 2月24日,小米汽车新一代SU7车型发布全新车色赤霞红,象征着新年的吉祥。该车型已开启小订,意向金为...
吉利汽车2026年大动作:G-... 2月24日,吉利汽车集团CEO淦家阅发布新春寄语,展望2026年公司发展蓝图。淦家阅强调,吉利将继续...
国际观察|消费涌新潮 新春添活... 新华社北京2月23日电 题:消费涌新潮 新春添活力——世界共享中国大市场红利新华社记者钟雅丙午马年,...
闪评 | 美国关税政策“横跳”... 美国海关与边境保护局(CBP)2月22日表示,将从美国东部时间2月24日起停止征收依据《国际紧急经济...
马年春节假日盘点·电影篇丨题材... 新华社北京2月23日电题:题材多、票根俏、影旅热——“电影+”燃动新春新华社记者邢拓、邓瑞璇、尹恒影...