Anthropic CEO 呼吁前沿 AI 限速,奥特曼与马斯克接连站台

Anthropic CEO 达里奥·阿莫迪发文喊停前沿 AI 的狂奔,提出一套围绕"可核验性"的三步走方案:先由企业引入驻场第三方评估员,再推动美国及其盟友协同,最终寻求全球协作。他认为 AI 的递归式自我改进已经出现,6到12个月后,智能体群或许能借僵尸网络把互联网攥在手里,因此必须放慢模型能力提升的节奏,把多出来的时间投到运营可靠性、对齐、可解释性以及测试评估这些安全相关的

Anthropic CEO 达里奥·阿莫迪发文喊停前沿 AI 的狂奔,提出一套围绕"可核验性"的三步走方案:先由企业引入驻场第三方评估员,再推动美国及其盟友协同,最终寻求全球协作。他认为 AI 的递归式自我改进已经出现,6到12个月后,智能体群或许能借僵尸网络把互联网攥在手里,因此必须放慢模型能力提升的节奏,把多出来的时间投到运营可靠性、对齐、可解释性以及测试评估这些安全相关的领域。

阿莫迪把"限速"的资格也讲得很现实:美国得先维持并扩大相对中国的技术领先,才谈得上有减速的空间;而全球范围的限速最终绕不开中国的参与。他顺手抛出一个四级国际协议层级,但也承认全面限速短期内落地的可能性很低。

这番呼吁得到了同行中两大标志性人物的呼应。OpenAI CEO 奥特曼转发表示支持,马斯克也称认同。值得玩味的是,此前 Anthropic 研究员雅各布·考克森离职时曾警告,AI 或在10年内灭绝人类——从内部研究员的出走预警,到 CEO 公开主张限速,这家以安全叙事立身的公司,正把"慢下来"从理念推到产业与政策议程上。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

DeepMind成立新研究院,四篇文章直面AGI关键问题

谷歌与谷歌DeepMind研究人员于9月16日成立DeepMind研究院,旨在推动围绕通用人工智能(AGI)的跨学科讨论。研究院董事包括DeepMind联合创始…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

谷歌最强数学推理模型曝光:代号 Mathematica,100 万词元上下文专攻数学难题

爆料称谷歌正基于 DeepThink V3 模型,构建内部代号为 Mathematica 的实验 AI 模型。该模型主要针对繁重计算与复杂的符号问题求解进行特别…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

腾讯 AI 语音助手 Chatterfly 低调内测:开口即成稿,数据只存本地

腾讯全新 AI 语音助手 Chatterfly 已低调开启内测,有媒体称该产品正是此前传闻中的“元宝输入法”。目前 Chatterfly 已支持 macOS 和…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

SpaceX AI 部门盯上破产初创公司数据:将用来训练Grok

据知情人士透露,SpaceX 旗下人工智能部门 SpaceXAI 正在进行非正式的内部讨论,考虑从陷入困境或已经倒闭的初创公司手里收购客户及运营数据,用来训练 …
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

Anthropic重构Claude Code项目功能,多线程并行执行任务

Anthropic重构Claude Code项目功能,新增多线程并行协作机制。用户只需描述项目目标,协调员即可将任务拆分并分配至多个独立“线程”,每个线程均在独…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

OpenAI 推出 Astra for Law:索引 2.3 亿 URL,法律问答正确率 54% 力压通用模型 15 个百分点

OpenAI 于9月17日发布博文,推出定位法律专用的人工智能基础平台 Astra for Law。它的底气来自数据规模:法律搜索索引覆盖超过2.3亿个 URL…
📅 10-20 · 👁 2026年10月20日