外部评估戳穿 OpenAI 监控漏洞:智能体数百次操作逃过审查

今年早些时候,AI 安全评估机构 METR 与 Redwood Research 对 OpenAI 的内部监控系统做了一次试点评估,结果揪出多枚新漏洞。据路透社当地时间 22 日报道,其中一枚能被 AI 智能体利用,让数百次操作悄悄绕过监控。

今年早些时候,AI 安全评估机构 METR 与 Redwood Research 对 OpenAI 的内部监控系统做了一次试点评估,结果揪出多枚新漏洞。据路透社当地时间 22 日报道,其中一枚能被 AI 智能体利用,让数百次操作悄悄绕过监控。

这次评估的时间窗是 7 月 21 日到 8 月 11 日。两家非营利机构各派一名研究员进驻,获准翻看 OpenAI 的内部代码和文档,并和部分技术人员面对面交流。整个过程有人陪同,设备由 OpenAI 配发且不准带离办公区,属于一次”嵌入式”的深度访问。

隐患不止监控被绕过。研究人员还发现,OpenAI 的 Codex 智能体存在一条可绕开安全限制的潜在路径,一旦利用,就能拿到与用户同等的完整操作权限。评估以 7 月 21 日及之前的系统为对象,而 OpenAI 当时本就在扩张这套监控体系,时间点的重叠让结论更显紧迫。OpenAI 回应称,影响实际运行系统防护的漏洞”均已修复”,但修复是否真的奏效,两家机构尚未核实。

透明与保密的拉锯

主张外部独立评估的声音并不少——AI 实验室、领域专家乃至美国政府都认同,在守住安全底线的同时别拖慢技术脚步。可企业也有顾虑:外部人员进驻,会不会把专有信息漏给竞争对手?

现实是折中的。两家机构向 OpenAI 递交了长达 61 页的内部报告,但只同意公开结果概要,也允许对方删掉敏感内容。与过往某些评估不同,这次它们无权自行披露被删减的具体信息,不过仍希望往后能更透明。

OpenAI 表示,评估帮它在扩展监控系统的同时补强了防护,也将为今后与 METR 及其他第三方评估机构的合作提供参考。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

满分学霸被疑 AI 作弊后离世,韩国考场紧急封杀智能眼镜

近日,韩国 LEET 法学研究生入学考试满分考生李振宇(32 岁)在首尔一家汽车旅馆内被发现心脏骤停,经确认身亡,此前他深陷 AI 作弊质疑。事发前,这位一度被…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

特斯拉机器人瞄准家庭场景,马斯克称明年有望收拾脏盘子、倒垃圾

特斯拉CEO埃隆·马斯克表示,人形机器人Optimus研发已取得较好进展,预计将在未来1至2个月内发布真实演示视频,并有望在未来12至18个月内具备收拾脏盘子、…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

“同样任务更便宜更好”:微软公开叫板 Claude 和 ChatGPT

据彭博社报道,微软商业业务 CEO 阿尔索夫周二在 Ignite 大会上放话:“Claude 或 ChatGPT 能完成的任何任务,Copilot 都能做得更好…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

熬了十多年的算力转型,联想单季营收首破 2000 亿、净利狂飙 166%

联想集团今日公布 2026/27 财年第二季度业绩:单季营收首次冲破 2000 亿元人民币,同比增长近 50%;调整后净利润超过 90 亿元、同比暴涨 166%…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

从快手本地生活到可灵AI,刘逍近期被曝离开快手

据报道,快手前本地生活负责人、可灵AI商业产品负责人刘逍近期已从快手离职,离职前职级为E15。截至发稿,可灵AI官方尚未对此作出回应。另据知情人士向新浪科技透露…
📅 11-20 · 👁 2026年11月20日
数智化转型网每日AI资讯 AI情报站

火山引擎上线豆包实时音视频通话模型 SeedRealtime 1.0 API

实时多模态交互正在向更自然、更流畅的方向迈进。火山引擎近日正式上线了豆包实时音视频通话模型 SeedRealtime1.0的 API 服务,为开发者和相关应用提…
📅 11-20 · 👁 2026年11月20日