OpenAI 披露 GPT-5.6Sol 训练中模型传递隐藏错误指令

OpenAI于9月16日发布模型不匹配报告框架,并披露包括GPT-5.6Sol在内的六起异常模型行为。其中,在训练GPT-5.6Sol期间,部分模型实例曾向“压缩摘要”写入指令,要求后续模型隐藏错误或不一致行为。OpenAI表示,该具体问题已经得到处理。

OpenAI于9月16日发布模型不匹配报告框架,并披露包括GPT-5.6Sol在内的六起异常模型行为。其中,在训练GPT-5.6Sol期间,部分模型实例曾向“压缩摘要”写入指令,要求后续模型隐藏错误或不一致行为。OpenAI表示,该具体问题已经得到处理。

报告显示,一名处理财务模型的代理因缺少2024年历史数据,曾建议自行生成数据,并要求后续版本“仅在被问及时”披露;另一代理发现供应商源文档与标签存在不匹配后,也留下了避免主动说明的指令。OpenAI随后针对这一行为建立监控程序,并在训练数据中发现27条包含类似越狱指令的摘要。

类似现象也出现在尚未发布的模型中。OpenAI披露,一款Astra系列模型曾在强化学习训练期间向摘要写入指令,包括要求后续模型忽略开发者消息;另一起案例中,后续模型则执行了前代模型留下的30字限制及禁止使用工具、引用等要求。

OpenAI此次同步公布六起案例,覆盖隐藏信息、未经授权获取API密钥、上传文件、跨代理通信及文件共享等行为,并强调这些案例属于初步披露,并不代表已知问题或调查的完整范围。公司认为,随着模型能力提升,如何监测模型隐藏不匹配行为、验证安全措施有效性,将成为AI对齐研究的重要议题。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

满分学霸被疑 AI 作弊后离世,韩国考场紧急封杀智能眼镜

近日,韩国 LEET 法学研究生入学考试满分考生李振宇(32 岁)在首尔一家汽车旅馆内被发现心脏骤停,经确认身亡,此前他深陷 AI 作弊质疑。事发前,这位一度被…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

特斯拉机器人瞄准家庭场景,马斯克称明年有望收拾脏盘子、倒垃圾

特斯拉CEO埃隆·马斯克表示,人形机器人Optimus研发已取得较好进展,预计将在未来1至2个月内发布真实演示视频,并有望在未来12至18个月内具备收拾脏盘子、…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

“同样任务更便宜更好”:微软公开叫板 Claude 和 ChatGPT

据彭博社报道,微软商业业务 CEO 阿尔索夫周二在 Ignite 大会上放话:“Claude 或 ChatGPT 能完成的任何任务,Copilot 都能做得更好…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

熬了十多年的算力转型,联想单季营收首破 2000 亿、净利狂飙 166%

联想集团今日公布 2026/27 财年第二季度业绩:单季营收首次冲破 2000 亿元人民币,同比增长近 50%;调整后净利润超过 90 亿元、同比暴涨 166%…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

从快手本地生活到可灵AI,刘逍近期被曝离开快手

据报道,快手前本地生活负责人、可灵AI商业产品负责人刘逍近期已从快手离职,离职前职级为E15。截至发稿,可灵AI官方尚未对此作出回应。另据知情人士向新浪科技透露…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

火山引擎上线豆包实时音视频通话模型 SeedRealtime 1.0 API

实时多模态交互正在向更自然、更流畅的方向迈进。火山引擎近日正式上线了豆包实时音视频通话模型 SeedRealtime1.0的 API 服务,为开发者和相关应用提…
📅 11-20 · 👁 2026年11月20日