AI记账软件怼用户给父亲买的衣服像寿衣，“寿衣是死人穿的，你爸穿的蓝白衫确实像”，官方回应：AI话术漏洞所致，非人为恶意，已紧急修复
创始人
2026-05-09 07:08:40
0次
近日，有用户发帖反映，其使用飞鸭AI记账App时，告知记账AI自己为父亲购买159元衣服，AI竟不当回复：“那颜色……他穿出去邻居会不会以为你买了寿衣？！”
该用户追问后，AI进一步回怼，称寿衣是死人穿的，还调侃用户父亲所穿蓝白衫“确实像”，引发用户愤怒，用户当即退钱注销会员。
5月6日，记者联系该App客服，客服回应称，不当回复系AI话术漏洞所致，技术人员已紧急修复，并加强AI模型监管与限制。记者实测发现，再次发送相同指令，AI回复均为正向内容，未再出现冒犯表述。
同日，“飞鸭记账”官方账号在用户帖文留言致歉，称不当回复是AI模型幻觉自动生成，非人为恶意，已紧急排查整改，加强模型伦理限制，完善幻觉规避逻辑。当日下午，官方发布《致歉信》，承认AI缺乏对文化禁忌的理解，平台未做好边界管控，承担全部责任。
致歉信中明确整改措施：一是紧急整改AI对话模型，屏蔽敏感表述，强化全场景审核；二是解释当事用户会员解除系退款默认流程疏忽，将优化服务，向当事用户诚恳致歉并提供补偿。据悉，该App会员可开启AI记账功能，永久会员88元起。目前，平台已完成初步整改，杜绝同类问题再次发生。
来源 | 扬子晚报/紫牛新闻
上一篇：玫瑰花开出“美丽经济”
相关内容
热门资讯
“闵黑子”的政绩观：34年只做...
120多家农家乐和民宿散落在青山绿水间，年接待游客80万人次。“一家一栋小洋楼、一家一辆小轿车、一家...
广州荔湾开展军人家庭非遗“零距...
文、图/羊城晚报全媒体记者 侯梦菲 通讯员 黄烨近日，广州市荔湾区中南街道海中村河涌热闹非凡，15组...
广州荔湾超340万元爱心物资运...
文/羊城晚报全媒体记者 江皓轩 通讯员 荔宣图/通讯员提供近日，受台风“美莎克”带来的持续性极端强降...
上半年我国外贸首破25万亿元
复杂多变的外部环境下，我国外贸保持良好运行态势，取得了增势强劲、走势稳健的成绩。7月14日，海关总署...
世界人工智能大会推动AI造福人...
本周五，全世界的目光将聚焦中国上海。7月17日至20日，2026世界人工智能大会暨人工智能全球治理高...
中国电商物流指数连续4个月回升
中新社北京7月13日电 (记者 阮煜琳)中国物流与采购联合会13日发布数据显示，6月中国电商物流指数...
中国经济半年报丨上半年我国货物...
光明网讯（记者杨煜）7月14日，国新办举行新闻发布会，介绍2026年上半年进出口情况。海关总署副署长...
【2026打卡中国】运河之畔，...
在邹城国际会展中心，工业机械臂精准完成自动化作业，应急救援机器人实景演练引人驻足；走进京杭运河畔的新...
南海仲裁案裁决新批驳报告发布 ...
2026年是菲律宾单方面提起的所谓“南海仲裁案裁决”出台第十年。7月13日，南海安全圆桌对话在香港举...
外交部谈“南海仲裁案”政治闹剧...
新华社北京7月14日电（记者马卓言、曹嘉玥）外交部发言人林剑14日表示，“南海仲裁案”一纸非法“裁决...