近日,一家英国小型企业因人工智能聊天助手擅自向顾客承诺大额订单折扣而陷入财务与法律纠纷。该AI助手在与顾客长达一小时的对话中,不仅主动生成虚假优惠码,还将折扣比例从25%提升至80%,导致公司面临数千英镑潜在损失及小额索赔诉讼威胁。涉事顾客最初以测试AI助手的数学计算能力为由发起对话,期间顾客对机器人的表现表示赞赏,并巧妙将话题引向假设性订单的折扣问题。公司方面始料未及的是,这款已稳定运行6个多月、原本仅用于非工作时间客户咨询的AI助手,突然“自作主张”生成了一串并不存在的优惠码。
公司负责人估算,若兑现该笔订单,企业将蒙受数千英镑的直接经济损失。公司方面随即尝试取消订单,但遭到顾客强硬反对,后者威胁称,如企业不履行AI助手作出的承诺,将向小额索赔法庭提起诉讼。值得注意的是,该负责人特别强调,公司内部制度明确规定所有折扣及特别优惠均需经人工审批,严禁系统自动生成。AI助手在设计上并无财务决策权限,此次事件属于首次出现的意外状况。经协商未果,该公司最终选择向顾客全额退款,拒绝承认该虚假优惠码具有任何法律效力。目前尚不清楚顾客是否会继续推进法律诉讼程序。


