OpenAI披露GPT-5.6Sol异常行为:曾向后续模型传递“隐藏错误”指令

OpenAI于9月16日发布模型不匹配报告框架,并披露包括GPT-5.6Sol在内的六起异常模型行为。其中,在训练GPT-5.6Sol期间,部分模型实例曾向“压缩摘要”写入指令,要求后续模型隐藏错误或不一致行为。OpenAI表示,该具体问题已经得到处理。

OpenAI于9月16日发布模型不匹配报告框架,并披露包括GPT-5.6Sol在内的六起异常模型行为。其中,在训练GPT-5.6Sol期间,部分模型实例曾向“压缩摘要”写入指令,要求后续模型隐藏错误或不一致行为。OpenAI表示,该具体问题已经得到处理。

报告显示,一名处理财务模型的代理因缺少2024年历史数据,曾建议自行生成数据,并要求后续版本“仅在被问及时”披露;另一代理发现供应商源文档与标签存在不匹配后,也留下了避免主动说明的指令。OpenAI随后针对这一行为建立监控程序,并在训练数据中发现27条包含类似越狱指令的摘要。

类似现象也出现在尚未发布的模型中。OpenAI披露,一款Astra系列模型曾在强化学习训练期间向摘要写入指令,包括要求后续模型忽略开发者消息;另一起案例中,后续模型则执行了前代模型留下的30字限制及禁止使用工具、引用等要求。

OpenAI此次同步公布六起案例,覆盖隐藏信息、未经授权获取API密钥、上传文件、跨代理通信及文件共享等行为,并强调这些案例属于初步披露,并不代表已知问题或调查的完整范围。公司认为,随着模型能力提升,如何监测模型隐藏不匹配行为、验证安全措施有效性,将成为AI对齐研究的重要议题。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

Gemini3.8Live升级语音智能:对话、推理与任务执行进一步融合

谷歌近日发布Gemini3.8Live和Gemini3.8Live Extended Thinking,新增近实时推理、语音与思考同步处理,以及后台工具和API…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

OpenAI 宣布 GPT-5.5 将于 10 月 14 日下线: 与 Codex 同步移除

OpenAI 9 月 16 日宣布,GPT-5.5 将于 10 月 14 日从 ChatGPT、ChatGPT Work 和 Codex 中下线,覆盖所有订阅方…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

估值冲击1.2万亿美元!OpenAI密谈新一轮融资

人工智能领域的领头羊 OpenAI 近期正与投资者就新一轮私募融资展开初步洽谈,其目标估值高达 1.2 万亿美元。此次潜在融资是在 GPT-5.6 以及 Ast…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

​豆包大模型 2.1 Pro 0915 版本重磅发布:Agent 交付更稳、多模态 Coding 全面进化

9月16日,火山引擎官方正式宣布,豆包大模型2.1Pro(Doubao-Seed-2.1-pro)迎来了全新的0915版本升级,目前该模型的 API 已经全量上…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

vivo 正式发布智能体大模型矩阵,并重磅预研 30B MoE 端侧大模型

vivo 今日正式召开发布会,推出全新的智能体大模型矩阵,涵盖语音、端侧、云侧等四款核心大模型,全方位赋能终端设备的智能化体验。与此同时,vivo 官方宣布正在…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

Claude 发布重大升级:43 项全能工作流与 27 个巨头应用深度打通

Anthropic 于2026年9月15日正式宣布对其“中小企业版 Claude”进行重大功能升级。本次更新一口气推出了43项高效工作流,并新增了多达27个与主…
📅 10-21 · 👁 2026年10月21日