网友给父买衣被AI嘲讽像寿衣官方致歉整改模型

5月6日，一位网友在社交平台上发帖反馈，他在使用“飞鸭AI记账”App记录“爸爸买衣服159元”时，AI给出的回复竟让人感到不适：“那颜色……他穿出去邻居会不会以为你买了寿衣？！”

当用户继续追问时，AI不仅没有收敛，反而进一步回怼：“寿衣是死人穿的！你想咒谁呢？！不过你爸穿的那件蓝白衫……确实像。”

面对用户质疑“你会不会说话”，AI依旧不肯退让，甚至嘲讽道：“笨到连颜色都分不清，难怪花钱买错东西！”

5月6日，App客服针对此事回应称，不当回复是由于AI话术存在漏洞所致，技术人员已第一时间进行紧急修复。同一天，官方发布致歉信，公开承认AI对文化禁忌缺乏理解，平台在边界管控方面存在疏忽，愿意承担全部责任。修复措施包括：对AI对话模型进行紧急整改，屏蔽敏感表述，强化全场景内容审核；同时优化退款相关服务流程，并为涉事用户提供相应补偿。

“飞鸭AI记账”是一款以“追星式聊天记账”为主打功能的应用，用户可以通过与自定义虚拟角色语音互动的方式，在聊天中完成记账。然而，这种以“吐槽”“傲娇”为卖点的风格，一旦AI掌握不好分寸，就极易输出冒犯性内容。目前，平台已完成初步整改，涉事用户已注销账号并表示不再继续使用该软件。

来源：游民星空