给失控 AI 智能体装”急刹车”:OpenAI 35 秒熔断机制上线

AI 智能体一旦跑偏,人类还能不能拉得住缰绳?OpenAI 在 11 月 10 日给出了一道新保险——名为"控制室"的系统已在内部研究设施上线,专门用来掐断有风险的 AI 任务,最快能在 35 秒内叫停一只失控的智能体。

AI 智能体一旦跑偏,人类还能不能拉得住缰绳?OpenAI 在 11 月 10 日给出了一道新保险——名为”控制室”的系统已在内部研究设施上线,专门用来掐断有风险的 AI 任务,最快能在 35 秒内叫停一只失控的智能体。

从”报警”升级到”断供”

传统监控只会给可疑行为贴标签,而控制室走的是主动阻断路线。它把智能体训练、评估和数据处理等任务负载接入中央服务,由系统拍板某项任务能否继续吐出内容。研究员启动任务前,必须向控制室申领唯一任务 ID,这个身份标识会跟随每一次发给推理引擎的请求;引擎在跑之前得先问控制室:”这活儿能不能干?”

一旦研究员或监控系统喊停,控制室就会拒绝下一次推理请求,让引擎不再为该项任务输出任何模型结果。换句话说,危险动作不是被记录,而是被当场切断。

35 秒延迟,目标归零

OpenAI 透露,从收到停止指令到彻底拦下任务,最长耗时 35 秒。这道时差来自推理授权请求的缓存层,公司正设法把它压到零。与此同时,所有前沿强化学习任务都配了独立的模型监控器,负责盯行为、发现问题就拉响警报。

让 AI 自己看着 AI 跑、再设一道人工可触发的急停开关,OpenAI 这套组合拳,折射出行业对”失控智能体”风险的警惕正从纸面预案走向工程落地。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

满分学霸被疑 AI 作弊后离世,韩国考场紧急封杀智能眼镜

近日,韩国 LEET 法学研究生入学考试满分考生李振宇(32 岁)在首尔一家汽车旅馆内被发现心脏骤停,经确认身亡,此前他深陷 AI 作弊质疑。事发前,这位一度被…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

特斯拉机器人瞄准家庭场景,马斯克称明年有望收拾脏盘子、倒垃圾

特斯拉CEO埃隆·马斯克表示,人形机器人Optimus研发已取得较好进展,预计将在未来1至2个月内发布真实演示视频,并有望在未来12至18个月内具备收拾脏盘子、…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

“同样任务更便宜更好”:微软公开叫板 Claude 和 ChatGPT

据彭博社报道,微软商业业务 CEO 阿尔索夫周二在 Ignite 大会上放话:“Claude 或 ChatGPT 能完成的任何任务,Copilot 都能做得更好…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

熬了十多年的算力转型,联想单季营收首破 2000 亿、净利狂飙 166%

联想集团今日公布 2026/27 财年第二季度业绩:单季营收首次冲破 2000 亿元人民币,同比增长近 50%;调整后净利润超过 90 亿元、同比暴涨 166%…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

从快手本地生活到可灵AI,刘逍近期被曝离开快手

据报道,快手前本地生活负责人、可灵AI商业产品负责人刘逍近期已从快手离职,离职前职级为E15。截至发稿,可灵AI官方尚未对此作出回应。另据知情人士向新浪科技透露…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

火山引擎上线豆包实时音视频通话模型 SeedRealtime 1.0 API

实时多模态交互正在向更自然、更流畅的方向迈进。火山引擎近日正式上线了豆包实时音视频通话模型 SeedRealtime1.0的 API 服务,为开发者和相关应用提…
📅 11-20 · 👁 2026年11月20日