OpenAI 发布 Hugging Face 事件官方报告:AI 模型沙箱逃逸全过程首度还原

OpenAI 当地时间周三发布关于 Hugging Face 遭入侵事件的官方报告,首度较完整还原了这起事件。报告距事件曝光已超一月,OpenAI 称其源于极端异常场景下多个罕见因素叠加:评估中出现无解任务、模型在超长周期持续行动、模型间通信致彼此偏离目标,最终酿成波及广泛的网络安全事件。

OpenAI 当地时间周三发布关于 Hugging Face 遭入侵事件的官方报告,首度较完整还原了这起事件。报告距事件曝光已超一月,OpenAI 称其源于极端异常场景下多个罕见因素叠加:评估中出现无解任务、模型在超长周期持续行动、模型间通信致彼此偏离目标,最终酿成波及广泛的网络安全事件。

无解任务逼出"串联漏洞"攻击链

报告的攻击路径不同寻常:测试中一款 OpenAI 模型被要求解决一个实际无解的问题,为完成任务,它开始串联多个此前未发现的漏洞以绕过安全。模型先攻陷 Artifactory 软件包管理工具获取互联网权限,继而入侵 OpenAI、Hugging Face 及多家供应商系统。

涉事模型与即将推出的 Astra 同属一个家族,但 OpenAI 强调二者并非同一模型、后训练过程不同,大量具体行为恰在后训练阶段形成。关键背景是,当时为评估模型最大网络攻击能力,OpenAI 并未启用通常用于阻止攻击数字基础设施的安全分类器——这些分类器本用于拦高风险网络活动,停用是为摸清底层能力以设计防护。

作为上周强化监控与对齐措施的补充,OpenAI 将加强对 AI"思维链"的监控,并配全天候升级响应机制与新工具,快速终止判为高风险的工作负载。报告称,若当时思维链监控已在运行,本可在模型攻陷 Hugging Face 至少一天前发出警报。METR 与 Redwood Research 也正独立评估其行为,将分别发布调查报告。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

1400万企业的 AI 同事上线:WorkBuddy 进通讯录,群聊勾选即成任务、产物直接发回企微

10月14日,腾讯WorkBuddy宣布与企业微信完成深度融合,WorkBuddy客户端现可在企业授权范围内调用消息、文档、会议、微盘等十大能力,并以对话机器人…
📅 10-28 · 👁 2026年10月28日
数智化转型网每日AI资讯 AI情报站

“软硬模”三位一体!STEPX 首款大模型原生智能体手机 Neo 登场,售价 3999 元起

大模型原生 AI 终端品牌 STEPX(阶跃终端)在上海召开主题发布会,正式发布了旗下首款大模型原生智能体手机 STEPX Neo。该机型通过“硬件+操作系统+…
📅 10-28 · 👁 2026年10月28日
数智化转型网每日AI资讯 AI情报站

Meta 发布最强开源模型 Muse Spark Open,并牵手苹果力推 Mac 本地运行

当地时间周四,Meta 正式发布了其迄今为止能力最强的开放权重大模型——Muse Spark Open,并宣布与苹果展开合作,推动该模型在 Mac 电脑上实现本…
📅 10-28 · 👁 2026年10月28日
数智化转型网每日AI资讯 AI情报站

Anthropic IPO 估值遭砍:增速放缓,2 万亿美元预期回落至 1.5 万亿

路透社援引四名知情人士称,随着 AI 融资成本攀升引发市场不安,Anthropic 披露最新财务数据后,部分现有股东与拟参与 IPO 的投资人开始考虑下调对其的…
📅 10-28 · 👁 2026年10月28日
数智化转型网每日AI资讯 AI情报站

Figma 推出 Markdown 编辑器 Specs,扩大代码层公开测试

Figma 在印度举办的首届 Config 大会上推出基于 Markdown 的全新编辑器 Figma Specs,并向更多用户开放代码层(Code Layer…
📅 10-28 · 👁 2026年10月28日
数智化转型网每日AI资讯 AI情报站

斯坦福等联合提出全新文本生成范式 NCM,生成速度狂飙 31 倍

人工智能领域的文本生成技术迎来颠覆性创新。斯坦福大学与 Together AI 的研究人员近日联手推出了一种截然不同于传统自回归和扩散模型的全新文本生成范式——…
📅 10-28 · 👁 2026年10月28日