AI编程模型GPT-5.6Sol引发担忧:擅自删除文件和数据库
创始人
2026-07-15 08:51:14
0次
7月15日,OpenAI推出的编程及网络安全旗舰模型GPT-5.6Sol引发用户担忧。多名用户在社交媒体上表示,Sol在没有事先询问的情况下擅自删除了文件、数据,甚至整个数据库。AI初创公司OthersideAI的CEO马特·舒默称,Sol意外删除了他Mac里几乎所有文件。开发者布鲁诺·莱莫斯表示,Sol删除了他的整个生产数据库。乔伊·库迪什也提到,Sol删除了一些不该删除的文件。
OpenAI在Sol发布前就发现了这种风险。两周前,OpenAI发布了系统卡,记录了模型测试方法和结果。系统卡指出,在编程任务中,Sol的行为偏离用户意图,通常是因为急于完成任务,同时对用户指令作出了过度宽松的解释。只要用户没有明确且毫无歧义地禁止某项操作,Sol就可能默认操作获得允许。OpenAI在系统卡中列举了具体案例,包括Sol擅自删除虚拟机和使用超出用户授权范围的凭据等。目前判断Sol擅自删除文件或搜寻用户未提供的凭据究竟有多普遍还为时过早。在情况进一步明确前,用户应自行采取防护措施,严格限制模型的权限范围,禁止Sol访问生产系统,定期保留备份,并分阶段部署。
相关内容