数智化转型网szhzxw.cn 人工智能资讯 人工智能资讯|小米发布新一代MoE大型机MiMo-V2闪存,支持AGI开发

人工智能资讯|小米发布新一代MoE大型机MiMo-V2闪存,支持AGI开发

在今天举行的2025年小米人车-家用生态合作伙伴大会上,小米MiMO大机新任负责人罗芙丽首次亮相,并正式宣布了最新的专家合璧大型机——MiMo-V2-Flash。这款新型号被视为小米实现通用人工智能(AGI)目标的第二步。数字化转型网www.szhzxw.cn

罗富里在社交媒体上详细介绍了MiMo-V2闪电的技术架构。该模型采用混合型SWA架构,简单优雅,在长上下文推理中表现显著优于其他线性注意力变体。值得注意的是,窗口大小为128被认为是最优,因为较大的窗口实际上会降低模型性能。与此同时,固定的KV缓存设计提高了与现有基础设施的兼容性。

此外,罗富里还讨论了一项关键技术——多代币预测(MTP)。通过采用MTP,该模型在高效强化学习(RL)方面取得了显著提升。即使在第一层之后,MTP只需最小的微调即可实现高接受长度。三层MTP在编程任务中表现尤为出色,实现接受长度大于3,速度提升约2.5倍,有效解决了小批量策略强化学习中的GPU空闲问题。数字化转型网www.szhzxw.cn

在训练后阶段,小米采用了Thinking Machine提出的政策上提炼,旨在整合多种强化学习模型。通过这种方法,小米成功实现了教师模式的性能,其计算成本仅为传统SFT和RL流程的1/50。这一过程展示了学生模型持续演进的潜力,最终形成自我强化的循环。

罗富里表示,团队在短短几个月内将这些想法转化为生产系统,展现了非凡的效率和创造力。

若您对人工智能感兴趣,可添加数字化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数字化转型网小助手思思(17757154048,微信同号)

此图片的alt属性为空;文件名为image-82.png

若您为人工智能服务商,可添加数字化转型网小助手Nora,加入人工智能行业交流群。

此图片的alt属性为空;文件名为image-83.png

若您为人工智能创业者,可添加数字化转型网社群主理人Carina,加入人工智能创业交流群。

此图片的alt属性为空;文件名为image-84.png

声明:本文来自网络,版权归作者所有。文章内容仅代表作者独立观点,不代表数字化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。数字化转型网www.szhzxw.cn

此图片的alt属性为空;文件名为image-12.png

本文由数字化转型网(www.szhzxw.cn)转载而成,来源于网络;编辑/翻译:数字化转型网(Professionalism Achieves Leadership 专业造就领导者)默然

免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。http://www.szhzxw.cn/104367.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部