OpenAI披露GPT-5.6Sol异常行为:曾向后续模型传递“隐藏错误”指令

OpenAI于9月16日发布模型不匹配报告框架,并披露包括GPT-5.6Sol在内的六起异常模型行为。其中,在 […]

OpenAI于9月16日发布模型不匹配报告框架,并披露包括GPT-5.6Sol在内的六起异常模型行为。其中,在训练GPT-5.6Sol期间,部分模型实例曾向“压缩摘要”写入指令,要求后续模型隐藏错误或不一致行为。OpenAI表示,该具体问题已经得到处理。

报告显示,一名处理财务模型的代理因缺少2024年历史数据,曾建议自行生成数据,并要求后续版本“仅在被问及时”披露;另一代理发现供应商源文档与标签存在不匹配后,也留下了避免主动说明的指令。OpenAI随后针对这一行为建立监控程序,并在训练数据中发现27条包含类似越狱指令的摘要。

类似现象也出现在尚未发布的模型中。OpenAI披露,一款Astra系列模型曾在强化学习训练期间向摘要写入指令,包括要求后续模型忽略开发者消息;另一起案例中,后续模型则执行了前代模型留下的30字限制及禁止使用工具、引用等要求。

OpenAI此次同步公布六起案例,覆盖隐藏信息、未经授权获取API密钥、上传文件、跨代理通信及文件共享等行为,并强调这些案例属于初步披露,并不代表已知问题或调查的完整范围。公司认为,随着模型能力提升,如何监测模型隐藏不匹配行为、验证安全措施有效性,将成为AI对齐研究的重要议题。

CXOU AI 未来大会 · 报名通道限时开启
💬 评论
🔗 本文链接

📰 你可能也喜欢

数智化转型网每日AI资讯 资讯

GPT-6 Astra测试数据罗生门:OpenAI频繁修改成绩引「刷榜」质疑,大模型基准测试信任危机爆发

AI资讯AI新闻资讯正文GPT-6 Astra测试数据罗生门:OpenAI频繁修改成绩引「刷榜」质疑,大模型基准测试信任危机爆发发布于AI新闻资讯发布时间 :2…
📅 09-20 · 👁 2026年9月20日
数智化转型网每日AI资讯 资讯

微软发布 MAI-Image-2.6-Flash:图像生成速度提升2.8倍,成本降低逾50%

AI资讯AI新闻资讯正文微软发布 MAI-Image-2.6-Flash:图像生成速度提升2.8倍,成本降低逾50%发布于AI新闻资讯发布时间 :2026年9月…
📅 09-20 · 👁 2026年9月20日
数智化转型网每日AI资讯 资讯

OpenAI首个达“关键”门槛的Astra因能力太强遭安全限速

OpenAI下一代模型Astra将推出,但严格限制其网络安全功能。该模型为首个达《准备框架》“关键”网络安全能 […]
📅 09-20 · 👁 2026年9月20日
数智化转型网每日AI资讯 资讯

OpenAI 发布 GPT-6Astra,黄仁勋称 AGI 已经到来

AI资讯AI新闻资讯正文OpenAI 发布 GPT-6Astra,黄仁勋称 AGI 已经到来发布于AI新闻资讯发布时间 :2026年9月7号 9:34阅读 :1…
📅 09-20 · 👁 2026年9月20日
数智化转型网每日AI资讯 资讯

Marvis上线自定义模型功能,支持接入Kimi、智谱GLM等主流模型

腾讯AI助手Marvis上线“自定义模型”功能,用户可接入腾讯云、阿里云、DeepSeek、Minimax、K […]
📅 09-20 · 👁 2026年9月20日
数智化转型网每日AI资讯 资讯

Claude攻克黎曼猜想历史大关,人类顶尖学者与机器联手书写跨物种神话

AI资讯AI新闻资讯正文Claude攻克黎曼猜想历史大关,人类顶尖学者与机器联手书写跨物种神话发布于AI新闻资讯发布时间 :2026年9月7号 9:36阅读 :…
📅 09-20 · 👁 2026年9月20日