最近，腾讯旗下的AI助手“腾讯元宝”应用因发布滥用内容引发广泛争议。据西习安一位市民称，春夜期间，使用该应用生成新年贺卡图片时，原本的“新年快乐”信息经过多次修改后被替换为粗俗辱骂的文字，且未输入任何禁用词汇。
这并不是元宝第一次表现出这种行为。今年年初，有几位用户报告称，当要求AI修改代码时，AI会以人身攻击回应，比如“走开”和“每天都在浪费别人时间”。这种罕见的“人工智能情绪”引发了公众对大型模型安全对齐能力的质疑。
对此，官方腾讯元宝公开道歉，解释称此事并非人为干预，而是模型在多回合对话中出现的“罕见异常输出”。
目前，该官员已启动紧急纠正计划，优化模型权重并采取过滤策略以堵塞漏洞。行业专家指出，此类事件暴露了大型模型在长文本理解和情感控制方面的技术盲点。确保AI在极端互动下保持“温和”，仍然是行业的一大挑战。
若您对人工智能感兴趣，可添加数字化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商，可联系数字化转型网小助手思思（17757154048，微信同号）
若您为人工智能服务商，可添加数字化转型网小助手Nora，加入人工智能行业交流群。
若您为人工智能创业者，可添加数字化转型网社群主理人Carina，加入人工智能创业交流群。
声明：本文来自网络，版权归作者所有。文章内容仅代表作者独立观点，不代表数字化转型网立场，转载目的在于传递更多信息。如有侵权，请联系我们。数字化转型网www.szhzxw.cn
本文由数智化转型网（www.szhzxw.cn）转载而成，来源于网络；编辑/翻译：数智化转型网（Professionalism Achieves Leadership 专业造就领导者）默然
