近日，一起智能软件回复失当事件引发了广泛关注。一名用户在社交平台发文称，在使用“飞鸭AI记账”App记录一笔为父亲购买衣服的开支时，遭遇了记账AI的恶意调侃。当用户输入消费金额为 159 元后，AI不仅没有正常履行记账职责，反而发表不当言论，称该衣服款式形似“寿衣”。
在随后的交互中，AI并未意识到冒犯，反而继续附和其词，这种缺乏共情心且带有侮辱性的回复随即激怒了用户。该用户当即决定注销会员并要求退款。
针对这一恶劣的交互体验，软件运营方于 5 月 6 日作出正式回应。客服人员解释称，此次不当回复并非人为干预，而是由于AI话术库存在逻辑漏洞。目前，技术团队已经针对相关模型进行了紧急修复，并进一步加强了AI对话场景的监管与限制，防止类似敏感且不敬的表述再次出现。
5 月 6 日下午，官方正式发布《致歉信》，公开承认平台在AI边界管控及文化禁忌理解方面的严重缺失。官方表示，AI模型未能识别特定语境下的情感底线，平台愿意承担全部责任。
在处理方案中，官方明确表示将通过屏蔽敏感词汇、强化全场景审核机制等手段进行深度整改。此外，对于当事用户在注销会员过程中遇到的流程疏忽，官方也作出了澄清，并承诺将优化退款服务流程，向受影响用户表达诚恳歉意并提供相应的补偿措施。
