数智化转型网szhzxw.cn 人工智能资讯 人工智能资讯|腾讯AI Lab首创并行思维框架,让大模型解锁全新推理方式!

人工智能资讯|腾讯AI Lab首创并行思维框架,让大模型解锁全新推理方式!

随着 AI 技术的不断进步,如何让大模型具备 “并行思维” 能力,成为了研究者们关注的热点话题。最近,腾讯 AI Lab 联合多所高校的研究团队推出了一个名为 Parallel-R1的全新强化学习(RL)框架,旨在教会大模型如何同时探索多条推理路径。这一创新的框架为应对复杂的数学推理任务开辟了新思路。

传统的方法往往依赖于监督微调(SFT),这种方式不仅对数据质量要求极高,而且模型通常只会模仿已有的数据,缺乏自主学习和泛化能力。为了解决这些问题,Parallel-R1框架应运而生。研究团队的关键发现是,利用简单的提示,可以让模型在处理简单数学题时生成高质量的并行思维数据。随后,通过一套 “渐进式课程” 的训练模式,模型先从简单任务开始学习并行思维的 “语法格式”,再逐步过渡到更复杂的数学问题中进行强化学习。

此外,团队还针对奖励设计的问题提出了一种交替式奖励策略,巧妙地平衡了 “解题准确率” 和 “思维多样性”。在训练过程中,模型大部分时间以 “准确率奖励” 为主,而少部分时间则给予并行思维使用的额外奖励。这种策略显著提高了模型的并行思维使用率,最终在多个数学基准测试中取得了显著提升。

实验结果显示,Parallel-R1框架不仅使模型在多个数学基准上提升了高达8.4% 的平均准确率,在 AIME25测试中更是实现了42.9% 的性能飞跃。研究者们发现,经过训练,模型的思维策略会逐渐从初期的 “广撒网” 式探索,转变为后期的 “精准验证”,充分展现了并行思维带来的优势。

Parallel-R1的成功不仅为大模型的推理能力开辟了新方向,也为今后的 AI 研究提供了新的思路,显示了并行思维在解决复杂任务中的潜力。

声明:本文来自网络,版权归作者所有。文章内容仅代表作者独立观点,不代表数字化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。

本文由数字化转型网(www.szhzxw.cn)转载而成,来源于网络;编辑/翻译:数字化转型网(Professionalism Achieves Leadership 专业造就领导者)萍水

免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。https://www.szhzxw.cn/94014.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部