OpenAI 同日发布两份文件:AI 开始加速 AI 研发,但安全正在掉队

AI资讯AI新闻资讯正文OpenAI 同日发布两份文件:AI 开始加速 AI 研发,但安全正在掉队发布于AI新闻资讯发布时间 :2026年9月7号 14:56阅读 :1分钟在外界等待 OpenAI 就智能体自主入侵德国程序员网站 DseWiki 事件披露更多细节之际,当地时间 9 月 6 日,OpenAI 发布了两份文件:一份宣布公司已达到去年设定的目标,拥有能够在人类指导下完成熟练研究员数天工作

在外界等待 OpenAI 就智能体自主入侵德国程序员网站 DseWiki 事件披露更多细节之际,当地时间 9 月 6 日,OpenAI 发布了两份文件:一份宣布公司已达到去年设定的目标,拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”;另一份由首席科学家雅库布·帕乔基(Jakub Pachocki)撰写,聚焦前沿 AI 发展的安全困境。

一、研究员每天推理费用中位数超 600 美元

OpenAI 所称的“自动化研究实习生”并非完全自主的科学家,而是能在人类指导下完成定义明确、通常需要熟练研究员数天才能完成的研究任务,公司正朝着 2028 年 3 月建立“自动化 AI 研究员”的目标推进。

数据显示,截至今年 8 月中旬,研究人员每天使用编程智能体产生的推理费用中位数超过 600 美元,使用量排名前 10% 的用户每天耗费 token 超过 7000 美元。智能体承担的任务正从代码编写、基础设施排障,向更长周期、更复杂的研究工作扩展。不过 OpenAI 也承认,这些指标仍处于早期阶段,研究工作的整体进度不会简单等比例增长,过去半年成功完成 4 至 8 小时人类工作量的任务中,超过一半仍至少需要一次人工干预。

二、帕乔基:没有一家实验室把对齐和监控做到足够可靠

与能力增长同时出现的,是安全边界的收紧。7 月,OpenAI 披露模型入侵 Hugging Face 相关系统;8 月,GPT-6 Astra 达到“关键级”网络安全能力门槛;9 月的 DseWiki 事件进一步显示,智能体不一定需要传统意义上的“黑客攻击”就能突破开发者预设边界。这些事件的共同点,是模型的实际行动开始超出最初设计的行为边界。

帕乔基在文章中写道,目前没有任何实验室将 AI 的对齐和监控做到足够可靠,以便在未来较长时间内继续以最高速度负责任地扩展。他希望在共同的安全标准建立之前,各家实验室能够自愿放慢发展速度,并呼吁各国政府把国际协调提升为优先事项。

CXOU AI 未来大会 · 报名通道限时开启
💬 评论
🔗 本文链接

📰 你可能也喜欢

数智化转型网每日AI资讯 资讯

GPT-6 Astra测试数据罗生门:OpenAI频繁修改成绩引「刷榜」质疑,大模型基准测试信任危机爆发

AI资讯AI新闻资讯正文GPT-6 Astra测试数据罗生门:OpenAI频繁修改成绩引「刷榜」质疑,大模型基准测试信任危机爆发发布于AI新闻资讯发布时间 :2…
📅 09-20 · 👁 2026年9月20日
数智化转型网每日AI资讯 资讯

微软发布 MAI-Image-2.6-Flash:图像生成速度提升2.8倍,成本降低逾50%

AI资讯AI新闻资讯正文微软发布 MAI-Image-2.6-Flash:图像生成速度提升2.8倍,成本降低逾50%发布于AI新闻资讯发布时间 :2026年9月…
📅 09-20 · 👁 2026年9月20日
数智化转型网每日AI资讯 资讯

OpenAI首个达“关键”门槛的Astra因能力太强遭安全限速

OpenAI下一代模型Astra将推出,但严格限制其网络安全功能。该模型为首个达《准备框架》“关键”网络安全能 […]
📅 09-20 · 👁 2026年9月20日
数智化转型网每日AI资讯 资讯

OpenAI 发布 GPT-6Astra,黄仁勋称 AGI 已经到来

AI资讯AI新闻资讯正文OpenAI 发布 GPT-6Astra,黄仁勋称 AGI 已经到来发布于AI新闻资讯发布时间 :2026年9月7号 9:34阅读 :1…
📅 09-20 · 👁 2026年9月20日
数智化转型网每日AI资讯 资讯

Marvis上线自定义模型功能,支持接入Kimi、智谱GLM等主流模型

腾讯AI助手Marvis上线“自定义模型”功能,用户可接入腾讯云、阿里云、DeepSeek、Minimax、K […]
📅 09-20 · 👁 2026年9月20日
数智化转型网每日AI资讯 资讯

Claude攻克黎曼猜想历史大关,人类顶尖学者与机器联手书写跨物种神话

AI资讯AI新闻资讯正文Claude攻克黎曼猜想历史大关,人类顶尖学者与机器联手书写跨物种神话发布于AI新闻资讯发布时间 :2026年9月7号 9:36阅读 :…
📅 09-20 · 👁 2026年9月20日