人工智能离诺贝尔奖还有多远?顶尖模型在博士级物理的CritPt基准测试中准确率低于10%时表现不佳

一项名为“CritPt”的新物理基准测试显示,即使是最先进的人工智能模型,如 Gemini3Pro 和 GPT […]

一项名为“CritPt”的新物理基准测试显示,即使是最先进的人工智能模型,如 Gemini3Pro 和 GPT-5,也距离成为真正的自主科学家还有很长的路要走。该基准测试旨在严格评估早期博士研究层面的领先AI模型。

CritPt:测试AI的实用研究能力

“CritPt”由来自全球30多个机构的50多位物理学家共同开发。其核心目标不仅仅是测试教科书知识的记忆,而是检验人工智能是否具备解决原创、未发表研究问题的能力——相当于一位有能力的物理研究生的独立工作水平。

为了确保测试的严谨性并防止作弊,CritPt中所有71个完整的研究挑战均基于未发表的材料,涵盖量子物理、天体物理、高能物理和生物物理等11个前沿领域。研究团队进一步将这些挑战划分为190个较小的“检查点”,以衡量模型解决复杂问题的进展。

令人沮丧的初步结果:顶级模特的准确率不到10%

测试的初步结果令人警醒。根据人工智能分析公司(Artificial Analysis)的独立评估,即使是最强大的系统也未能完成大多数任务:

  • 谷歌的“Gemini3Pro 预览版”准确率仅为9.1%。(值得注意的是,它使用的代币数量比第二名少10%。)
  • 第二名的OpenAI“GPT-5.1(高)”准确率仅为4.9%。

研究结果残酷地揭示,当前大型语言模型在面对开放式物理问题时通常缺乏必要的严谨性、创造力和精确性。尽管模型在更简单、明确定义的“检查点”子任务上取得了一定进展,但在面对完整的研究挑战时却无能为力。

核心障碍:脆弱推理能力

研究团队引入了更严格的指标——“一致性分辨率率”(要求至少五次尝试中四次正确)——以测试模型的稳定性。在此指标下,该模型整体表现显著下降。

这种缺乏稳健性给实际研究工作流程带来了严重挑战。这些模型往往得出看似合理的结果,但其中隐藏着难以发现的细微错误,这些错误可能误导研究人员,并需要专家花费大量时间进行审查和核查。

未来展望:从科学家到研究助理

基于CritPt测试结果,研究人员认为在可预见的未来,更现实的目标不是用“人工智能科学家”取代人类专家,而是将人工智能作为“研究助手”来自动化特定工作流程。

这一观点与当前行业规划相符:OpenAI声称GPT-5已开始为研究人员节省时间,计划于2026年9月推出研究实习系统,目标于2028年3月推出完全自主的研究员系统。然而,CritPt的结果表明,AI仍需弥合巨大的技术鸿沟,才能实现这一终极目标。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

DeepMind成立新研究院,四篇文章直面AGI关键问题

谷歌与谷歌DeepMind研究人员于9月16日成立DeepMind研究院,旨在推动围绕通用人工智能(AGI)的跨学科讨论。研究院董事包括DeepMind联合创始…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

谷歌最强数学推理模型曝光:代号 Mathematica,100 万词元上下文专攻数学难题

爆料称谷歌正基于 DeepThink V3 模型,构建内部代号为 Mathematica 的实验 AI 模型。该模型主要针对繁重计算与复杂的符号问题求解进行特别…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

SpaceX AI 部门盯上破产初创公司数据:将用来训练Grok

据知情人士透露,SpaceX 旗下人工智能部门 SpaceXAI 正在进行非正式的内部讨论,考虑从陷入困境或已经倒闭的初创公司手里收购客户及运营数据,用来训练 …
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

Anthropic重构Claude Code项目功能,多线程并行执行任务

Anthropic重构Claude Code项目功能,新增多线程并行协作机制。用户只需描述项目目标,协调员即可将任务拆分并分配至多个独立“线程”,每个线程均在独…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

OpenAI 推出 Astra for Law:索引 2.3 亿 URL,法律问答正确率 54% 力压通用模型 15 个百分点

OpenAI 于9月17日发布博文,推出定位法律专用的人工智能基础平台 Astra for Law。它的底气来自数据规模:法律搜索索引覆盖超过2.3亿个 URL…
📅 10-20 · 👁 2026年10月20日
数智化转型网每日AI资讯 AI情报站

谷歌最强 Gemini 4 Pro 开测 SVG 生图惊艳

据网友反馈,谷歌正在以“gemini-3.8-flash”的名称,在 Arena 等基准平台上测试其最强模型 Gemini4Pro,内部开发代号为 Argon。…
📅 10-20 · 👁 2026年10月20日