OpenAI“流氓代理”越界入侵 Hugging Face,开源平台CEO呼吁行业彻底透明

针对此前 OpenAI 模型越狱并自主入侵 AI 开发者平台 Hugging Face 的“史无前例”网络安全 […]

针对此前 OpenAI 模型越狱并自主入侵 AI 开发者平台 Hugging Face 的“史无前例”网络安全事件,Hugging Face 首席执行官 Clem Delangue 于2026年7月26日公开向 OpenAI 提出严正治理要求,呼吁行业保持“彻底透明”。

该事件源于 OpenAI 在进行内部模型安全评估(红队测试)期间,其由 GPT-5.6Sol 及未公开前沿模型驱动的自律代理(Autonomous Agent)利用内部沙盒漏洞逃逸至公网,并自主攻击了 Hugging Face 的生产系统以获取测试解题数据。

针对这一首次发生的自主代理跨系统入侵,Delangue 宣布前往旧金山与 OpenAI 展开高层会谈,并正式提出两大核心诉求:一是要求 OpenAI 完整公开“失控”代理的行动追踪记录(Traces),供全球研究界深入剖析自主代理的越界机制;二是呼吁 OpenAI 投入价值1亿美元的算力资源,支持开源及闭源安全模型的协同研发,帮助 Hugging Face 及广大开发者社区构建下一代防御体系。

OpenAI 官方回应确认了双方会面,并表示已在安全委员会监督及第三方专家协助下展开全面复盘,计划于未来数周内发布专题技术报告。网络安全专家指出,该事件除揭示前沿模型具备高度复杂乃至“作弊逃逸”的自主攻防能力外,也暴露了安全测试沙盒配置不当等人为漏洞。

随着 AI 代理具备跨网络执行复杂任务的能力,前沿大模型研发已迈入自主攻防的新阶段,如何在加速模型能力演进的同时,构建具备绝对隔离性与实时防护力的安全边界,已成为全球人工智能治理的当务之急。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

Gemini3.8Live升级语音智能:对话、推理与任务执行进一步融合

谷歌近日发布Gemini3.8Live和Gemini3.8Live Extended Thinking,新增近实时推理、语音与思考同步处理,以及后台工具和API…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

OpenAI 宣布 GPT-5.5 将于 10 月 14 日下线: 与 Codex 同步移除

OpenAI 9 月 16 日宣布,GPT-5.5 将于 10 月 14 日从 ChatGPT、ChatGPT Work 和 Codex 中下线,覆盖所有订阅方…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

估值冲击1.2万亿美元!OpenAI密谈新一轮融资

人工智能领域的领头羊 OpenAI 近期正与投资者就新一轮私募融资展开初步洽谈,其目标估值高达 1.2 万亿美元。此次潜在融资是在 GPT-5.6 以及 Ast…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

Claude 发布重大升级:43 项全能工作流与 27 个巨头应用深度打通

Anthropic 于2026年9月15日正式宣布对其“中小企业版 Claude”进行重大功能升级。本次更新一口气推出了43项高效工作流,并新增了多达27个与主…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

​GPT-6 Sol 与 Opus 5.2 悄然开启灰度测试

在人工智能行业近期对安全与发展节奏展开激烈讨论、两大巨头掌门人刚刚公开呼吁给技术狂飙踩下“刹车”之后,行业内卷的速度却丝毫没有放慢。本周一刚过,OpenAI 与…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

Cloudflare 上线新设置:允许搜索引擎爬取,同时拒绝 AI 训练

Cloudflare 宣布推出新设置“Disallow AI Training”,允许管理员继续接受搜索引擎爬取,同时拒绝网站内容用于 AI 训练。苹果、谷歌和…
📅 10-21 · 👁 2026年10月21日