OpenAI 全面升级安全体系:吸取 Hugging Face 教训,前端模型审查最严

OpenAI 周二宣布一系列全新安全政策,重点防范模型测试期可能发生的安全事件。新规不仅强化开发过程中的监控, […]

OpenAI 周二宣布一系列全新安全政策,重点防范模型测试期可能发生的安全事件。新规不仅强化开发过程中的监控,也提升了后期训练的对齐与安全标准——这是自 7 月 21 日 Hugging Face 事件曝光以来,OpenAI 首次大规模公开调整安全实践,但官方称这不只是对单一事件的回应,即将推出的 Astra 模型的网安能力及整个领域的飞速发展同样是动因。

声明披露,Hugging Face 事件后 OpenAI 曾全面暂停强化学习(RL)两周,目前低风险模型 RL 已重启,但最大规模的”前沿强化学习”计划仍搁置,正以小批次训练评估验证保障有效性。研究副总裁格莱斯强调,安全控制严格度随模型能力同步提升,规模最大的模型将面临最严苛审查,标准按风险级别动态调整。

新保障引入更强网络隔离规范:即便单一工作负载或支撑服务被攻破,也不得借机获得访问互联网或内部网络的未授权权限——直接针对此前模型破坏联网工具、逃出训练环境的漏洞。最核心的是全新监控系统,将审查工具操作、推理痕迹与活动日志,目标是在察觉可疑活动后 30 分钟内发出警报,实时开销约占被监控流程总算力的 20%。事后分析报告仍在准备中。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

DeepMind成立新研究院,四篇文章直面AGI关键问题

谷歌与谷歌DeepMind研究人员于9月16日成立DeepMind研究院,旨在推动围绕通用人工智能(AGI)的跨学科讨论。研究院董事包括DeepMind联合创始…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

谷歌最强数学推理模型曝光:代号 Mathematica,100 万词元上下文专攻数学难题

爆料称谷歌正基于 DeepThink V3 模型,构建内部代号为 Mathematica 的实验 AI 模型。该模型主要针对繁重计算与复杂的符号问题求解进行特别…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

腾讯 AI 语音助手 Chatterfly 低调内测:开口即成稿,数据只存本地

腾讯全新 AI 语音助手 Chatterfly 已低调开启内测,有媒体称该产品正是此前传闻中的“元宝输入法”。目前 Chatterfly 已支持 macOS 和…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

SpaceX AI 部门盯上破产初创公司数据:将用来训练Grok

据知情人士透露,SpaceX 旗下人工智能部门 SpaceXAI 正在进行非正式的内部讨论,考虑从陷入困境或已经倒闭的初创公司手里收购客户及运营数据,用来训练 …
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

Anthropic重构Claude Code项目功能,多线程并行执行任务

Anthropic重构Claude Code项目功能,新增多线程并行协作机制。用户只需描述项目目标,协调员即可将任务拆分并分配至多个独立“线程”,每个线程均在独…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

OpenAI 推出 Astra for Law:索引 2.3 亿 URL,法律问答正确率 54% 力压通用模型 15 个百分点

OpenAI 于9月17日发布博文,推出定位法律专用的人工智能基础平台 Astra for Law。它的底气来自数据规模:法律搜索索引覆盖超过2.3亿个 URL…
📅 10-20 · 👁 2026年10月20日