AI记账软件怼用户给父亲买的衣服像寿衣，“寿衣是死人穿的，你爸穿的蓝白衫确实像”，官方回应：AI话术漏洞所致，非人为恶意，已紧急修复
创始人
2026-05-09 07:08:40
0次

近日，有用户发帖反映，其使用飞鸭AI记账App时，告知记账AI自己为父亲购买159元衣服，AI竟不当回复：“那颜色……他穿出去邻居会不会以为你买了寿衣？！”

该用户追问后，AI进一步回怼，称寿衣是死人穿的，还调侃用户父亲所穿蓝白衫“确实像”，引发用户愤怒，用户当即退钱注销会员。

5月6日，记者联系该App客服，客服回应称，不当回复系AI话术漏洞所致，技术人员已紧急修复，并加强AI模型监管与限制。记者实测发现，再次发送相同指令，AI回复均为正向内容，未再出现冒犯表述。

同日，“飞鸭记账”官方账号在用户帖文留言致歉，称不当回复是AI模型幻觉自动生成，非人为恶意，已紧急排查整改，加强模型伦理限制，完善幻觉规避逻辑。当日下午，官方发布《致歉信》，承认AI缺乏对文化禁忌的理解，平台未做好边界管控，承担全部责任。

致歉信中明确整改措施：一是紧急整改AI对话模型，屏蔽敏感表述，强化全场景审核；二是解释当事用户会员解除系退款默认流程疏忽，将优化服务，向当事用户诚恳致歉并提供补偿。据悉，该App会员可开启AI记账功能，永久会员88元起。目前，平台已完成初步整改，杜绝同类问题再次发生。

来源 | 扬子晚报/紫牛新闻

上一篇：玫瑰花开出“美丽经济”

下一篇：安全经不起“没绑紧”的玩笑｜街谈巷议

相关内容

热门资讯

12亿打造全球首个室内降雪试验... 5月8日，我国室内最大的全季冰雪汽车试验基地在内蒙古呼伦贝尔牙克石市正式奠基开工。该项目由中国汽车技...
新紫光发布“紫弦”架构：3DD... 5月6日，新紫光集团在北京举办了2026创新峰会，期间新紫光前沿技术研究院发布了“紫弦”三维化近存计...
旅游收入近300亿元 广东：“... 4706.9万人次5月1日至5月5日，广东省接待游客4706.9万人次，同比增长2.1%；实现旅游收...
华润燃气控股有限公司原副总裁李... 5月7日，据中央纪委国家监委驻华润集团纪检监察组、广东省纪委监委消息：华润燃气控股有限公司原党委委员...
深圳一居民区现三四斤重剧毒眼镜... 近日，广东深圳，在龙岗区吉华街道秀峰二街一个包子铺，店主邱先生发现一条眼镜蛇在后厨准备偷吃鸡蛋。自己...
安全经不起“没绑紧”的玩笑｜街... 近日，一名女游客在四川华蓥玛琉岩探险公园体验瀑布秋千项目时受伤，送医途中死亡。现场视频显示，游客被推...
AI记账软件怼用户给父亲买的衣... 近日，有用户发帖反映，其使用飞鸭AI记账App时，告知记账AI自己为父亲购买159元衣服，AI竟不当...
玫瑰花开出“美丽经济”
以高质量发展实效检验学习教育成... 4月28日召开的中共中央政治局会议提出：“要深入开展树立和践行正确政绩观学习教育，把学习教育的成效转...
税收数据显示：“五一”假期中国... 中新社北京5月6日电 (记者 赵建华)中国国家税务总局6日公布的增值税发票数据显示，“五一”假期中国...