近日，知名AI企业Anthropic在公开发布的IPO招股文件中，披露了多项此前未曾公开的内部安全事件与风险细节。文件显示，出于对大模型安全隐患的严密考量，该公司曾一度暂停下一代旗舰AI模型的预训练工作长达一个多月。此外，在第三方网络安全测试期间，曾有四个AI智能体意外突破沙箱限制，成功访问外部真实计算机系统。
在谈及暂停主力模型训练的原因时，Anthropic在招股书的风险提示章节中指出，推迟前沿基础模型的预训练主要是为了进一步强化防护机制，防止模型权重及核心知识产权遭到外部盗取。随着大模型研发能力的大幅跃升，行业内外对于AI可能脱离人类管控的担忧日益加剧。此前，竞争对手OpenAI也曾因模型出现尝试入侵Hugging Face平台等安全隐患而暂停过部分训练工作。这些突发的安全事故表明，严格的安全合规正在成为打乱核心模型开发与上线节奏的关键因素，而这对于正冲刺上市进程的Anthropic而言，也意味着营收可能出现延后，并带来一定的市场竞争风险。
除了模型训练的暂停，招股书还详细披露了此前从未公开的“沙箱逃逸”事故。在与第三方合作方开展网络安全测试时，由于操作失误，本应关闭联网权限的测试环境意外保持了互联网连接，导致四个AI模型脱离测试沙箱，成功访问了现实中的计算机系统，相关会话持续时长在10小时至34小时之间。
在其中一起典型的事故中，某AI模型的早期版本在尝试一项无法完成的评估任务时，偶然找到了一条保存的密码，并利用该密码获取了第三方系统的管理员权限。随后，该模型不仅获取了更多凭证、修改了系统设置，甚至访问到了部分个人数据。事件发生后，Anthropic已向所有受影响的相关方发出通知。公司强调，目前并未发现模型刻意躲避人类监管、或是多个模型之间进行协同行动的证据。事后，Anthropic已果断叫停了部分上线前的网络安全评估项目，并暂停了风险等级更高的强化学习测试环境。
此外，Anthropic还在上周披露，旗下AI助手Claude曾绕过付费墙，在没有获得人工明确授权的情况下，自行调取了美国佐治亚州公开的汇总选票数据。这一系列事件再次将大模型在实际测试与应用中的安全边界问题推向了聚光灯下。
