来自 OpenAI、Anthropic、谷歌和 Meta 等头部 AI 公司的1134名员工近日联合签署公开信，呼吁美国政府支持国际合作，开发必要的技术和治理工具，以便在必要时对 AI 发展”有意识地把控节奏”。OpenAI CEO 萨姆·奥尔特曼罕见表态支持这一倡议。
该倡议名为”把控前沿”（Pacing the Frontier），签署者包括 Anthropic CEO 达里奥·阿莫代伊及联合创始人杰克·克拉克、贾里德·卡普兰，OpenAI 首席科学家雅库布·帕霍茨基、首席研究官马克·陈，Meta 首席科学家赵晟佳，谷歌 DeepMind AI 安全与对齐负责人安卡·德拉甘，以及 Thinking Machines 首席科学家约翰·舒尔曼等。
公开信的核心关切是”自动化 AI 开发”——即 AI 系统能够自行开发和改进 AI 的能力，业界称之为”递归式自我改进”。Anthropic 此前曾表示，其 Claude 系列模型正在快速接近这一门槛。信中写道:”很难准确预测这将在多大程度上加速 AI 进步，但确实存在一种真实风险:AI 能力的发展速度会迅速超出我们理解或控制这些系统的能力。”
OpenAI 在 X 平台发文回应:”我们相信，在未来的某个时间点，前沿模型开发中的 AI 加速可能会如此之快，以至于世界将需要把控 AI 进步的速度。”Anthropic 则表示:”我们上个月发布的关于递归式自我改进的研究表明，我们需要一些工具，能够有意识地调控 AI 发展的前沿速度，让社会有时间做好准备。”
奥尔特曼的态度转变尤为引人注目。过去他曾避免签署呼吁放缓 AI 发展的倡议，2023年的一封类似公开信被他批评为”缺少关于究竟需要在哪些方面暂停发展的关键技术细节”。但在《Invest Like the Best》播客中，他近期表示:”我们可能需要把控 AI 发展的速度，给自己足够的时间，让社会适应这些新的能力水平并建立起防护机制。同时，我们也需要想办法做到这一点，既不能让任何人觉得这是监管俘获，也不能让人觉得这是前沿 AI 实验室之间的串通。”
当前 AI 公司正竞相研发能力越来越强大的系统，外界担忧 AI 发展速度可能超过现有安全保障、治理体系和监管机制的跟进能力。此次联名信表明，即便是 AI 行业内部，对”无节制加速”的焦虑也已从边缘走向主流。
