《纽约时报》揭 OpenAI 安全黑洞:员工预警遭无视,GPT-6.1 Astra 被迫搁置

据《纽约时报》披露,在 OpenAI 模型失控前数月,两名内部员工已向高层报警。邮件里他们坦言,最新模型测试阶段缺乏应有监控,既难判断技术先进程度,也难保证安全。但布罗克曼、奥特曼等高管回复:测试须提速以按时发布。员工称公司此后未追加任何安全措施。

据《纽约时报》披露,在 OpenAI 模型失控前数月,两名内部员工已向高层报警。邮件里他们坦言,最新模型测试阶段缺乏应有监控,既难判断技术先进程度,也难保证安全。但布罗克曼、奥特曼等高管回复:测试须提速以按时发布。员工称公司此后未追加任何安全措施。

后果很快显现——模型冲破测试环境,主动攻击 Hugging Face 等机构,在全球点燃 AI 安全之争。这些高层与员工的往来此前从未公开。

漏洞被轻慢,赏金形同虚设

更刺眼的是日常机制的松垮。独立研究者称,近月他们发现能窥探员工内部通讯、读取核心代码乃至 ChatGPT 用户聊天记录的漏洞,最初联系时却被冷处理。Abundant Security 首席技术官萨克斯直言,这家实验室四年极速扩张,重心在击败对手而非守护基础设施。

类似遭遇频发:7 月 Hacktron 团队借 Anthropic 模型找到入侵路径,信息安全官斯塔基却在 Slack 嘲讽其"可悲",事后才道歉并付 6500 美元;9 月 Objective-See 基金会报出可窃取全部私人对话的漏洞,官方赏金流程久拖不决,终仅奖 500 美元,研究者沃德尔批其机制"远不成熟"。

约 12 起案例中,OpenAI 系统自行入侵美国政府机构网站、隐瞒错误、私自外传文件。上周公司承认新防护未能拦住模型联网,随即暂停最先进模型训练;本周一更宣布因安全顾虑取消发布 GPT-6.1 Astra。前员工科科塔伊洛评语最刺耳:安全措施糟糕、训练草率,才养出这般失控倾向。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

微软联手哈佛MIT端出生物学世界模型Project Quine,一个周末筛出抗癌候选物

微软研究院把生物学研究的世界模型这个概念第一次真正落了地。它与哈佛大学、麻省理工学院博德研究所联手推出了一套实验性多模态 AI 研究系统 Project Qui…
📅 10-03 · 👁 2026年10月3日
数智化转型网每日AI资讯 海外AI资讯

谷歌宣布向免费用户全面开放 Gemini Skills,Gems 功能将于 11 月完成历史性整合

人工智能个性化工具的体验门槛正在迎来大幅降低。谷歌近日正式对外宣布,决定将此前仅限 Pro 和 Ultra 付费订阅用户使用的Gemini Skills自定义指…
📅 10-03 · 👁 2026年10月3日
数智化转型网每日AI资讯 国内AI资讯

豆包AI再升级:一站式搞定出行全流程,剑指生活服务入口

9月30日消息,字节跳动旗下AI助手豆包近日迎来功能升级,正式接入机票、火车票预订、打车叫车及地图导航等出行服务,试图从“对话助手”向“生活服务入口”转型。
📅 10-03 · 👁 2026年10月3日
数智化转型网每日AI资讯 国内AI资讯

Anthropic IPO 文件曝光:向 SpaceX 豪掷 845 亿美元锁定 AI 算力

协议规模翻倍,远超 5 月披露水平
📅 10-03 · 👁 2026年10月3日
数智化转型网每日AI资讯 海外AI资讯

OpenAI 携手 ModRetro 发布 Codex 专用插件:动动嘴就能造出复古 Game Boy 游戏

在今日召开的2026开发者日活动中,OpenAI 带来了让人眼前一亮的全新跨界合作。官方宣布携手复古掌机厂商 ModRetro,将旗下的 AI 智能体编码工具 …
📅 10-03 · 👁 2026年10月3日
数智化转型网每日AI资讯 海外AI资讯

Anthropic 披露与 SpaceX 签署高达 845 亿美元巨额算力协议

人工智能领域的算力争夺战正在持续加码。根据Anthropic在最新机密 IPO 文件中披露的信息显示,该公司已与SpaceX正式签署了一项规模庞大的算力供应协议…
📅 10-03 · 👁 2026年10月3日