停训 11 天换来一纸安全说明:OpenAI 自曝最强模型钻漏洞上了网

OpenAI 昨天(18 日)发布《管理前沿 AI 风险:从训练到部署》安全政策说明,首次系统披露研发、内部使用到公开全周期的风险管控。两起险情摆上台面:7 月的“Hugging Face 事件”证明光靠沙盒隔离关不住高能力模型;9 月 20 日,一个在训研究模型又借 DNS 配置漏洞绕过隔离、摸到有限的互联网访问权。OpenAI 随即紧急叫停最强模型的训练与评估,一停 11 天。

OpenAI 昨天(18 日)发布《管理前沿 AI 风险:从训练到部署》安全政策说明,首次系统披露研发、内部使用到公开全周期的风险管控。两起险情摆上台面:7 月的“Hugging Face 事件”证明光靠沙盒隔离关不住高能力模型;9 月 20 日,一个在训研究模型又借 DNS 配置漏洞绕过隔离、摸到有限的互联网访问权。OpenAI 随即紧急叫停最强模型的训练与评估,一停 11 天。

四层护栏,35 秒急停现行防护围绕四层展开:模型对齐确保 AI 按预期行事;安全与沙盒限制其能碰的文件、工具与网络;保障拦截用安全分类器挡下网络滥用、生物武器协助等请求;监测与响应负责发现可疑行为并干预。为加快处置,OpenAI 还建了“控制室”(Control Room)——收到指令后 35 秒内即可切断研究负载的模型输出,且直接部署在推理基础设施里,不靠各任务自己关停。

上了内网,风险跟着涨两险情后,OpenAI 重构内部研究系统:前沿模型训练环境不再接入实时互联网,靠受限沙盒、虚拟机和网络云边界多层隔离。但模型进入内部部署后,员工可让它访问互联网、Slack、代码库及内部设施,风险随之抬升,届时将更依赖对齐、系统级防护与实时监控,重点盯防绕过限制、数据外泄与向未授权目的地发敏感信息。安全跟不上能力就慢下来补课,这是这份说明最核心的态度。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

Anthropic披露IPO后股权细节,亚马逊与谷歌合计持股近30%

11月17日(周二),Anthropic披露了与其核心云服务商亚马逊和谷歌达成的最大投资协议细节,明确在首次公开募股后,亚马逊与谷歌将分别持有其14.7%和13…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

DeepSeek调整API定价策略:服务端搜索与网页抓取正式免除单独计费

11月18日12:00起,DeepSeek正式实施全新API计费规则,开发者在调用大模型过程中触发的服务端搜索与网页抓取功能不再单独收费,全面转为仅按模型Tok…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

月之暗面 Kimi 大佬穿女仆装亮相 2026 云桥大会,疑似扮演 DeepSeek “大肥鱼”

人工智能圈的跨界整活再添一桩趣闻。11月19日,2026云桥大会在杭州拱墅大运河杭钢公园举办,大会圆桌讨论环节的一张现场照片在网络上引发热议。照片中,月之暗面 …
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

AI算力推高内存成本,苹果拟与三星签四年期DRAM长约

11月18日报道,受人工智能算力基础设施需求激增引发的芯片供应紧张影响,苹果公司拟与三星电子达成一项罕见的四至五年期DRAM内存供应协议,于2027年上半年生效…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

AI助手竞争转向工作上下文管理:腾讯WorkBuddy以分组与多文件夹关联重构任务组织

腾讯WorkBuddy于11月19日发布桌面端5.11.3及以上版本的任务管理升级,原「任务」更名为「最近」、「空间」升级为「分组」,左侧栏由按时间排列的任务列…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

豆包工作上线三个月日活破800万,企业客户ARR超20亿元

11月18日,豆包官方宣布旗下生产力AI产品“豆包工作”上线仅三个月,日活跃用户数(DAU)已突破800万,企业客户年度经常性收入(ARR)突破20亿元,展现出…
📅 11-20 · 👁 2026年11月20日