数智化转型网 数字化服务商库 【行业资讯】「模芯生态创新联盟」在上海成立!阶跃携手近10家芯片厂商让大模型更高效

【行业资讯】「模芯生态创新联盟」在上海成立!阶跃携手近10家芯片厂商让大模型更高效

基础大模型研发已步入深水区,模型厂商和芯片厂商正通过联合技术创新的模式,让大模型和算力双向实现价值最大化,加速推动大模型真正被各行各业用起来。

7 月 25 日,阶跃星辰在上海召开「Step 3 大模型发布会暨生态联盟成立大会」,会上阶跃发布了新一代基础大模型 Step 3,这款模型兼顾智能与效率,旨在面向推理时代打造最适合应用的模型,将于7月31日面向全球企业和开发者开源,为开源世界贡献最强多模态推理模型。

凭借系统和架构创新,Step 3 实现了行业领先的推理解码效率。根据原理分析,Step 3 在国产芯片上的推理效率最高可达 DeepSeek-R1 的300%,且对所有芯片友好。在基于 NVIDIA Hopper 架构的芯片进行分布式推理时,实测Step 3 相较于 DeepSeek-R1 的吞吐量提升超 70%。

值得关注的是,为了通过底层联合创新提升大模型适配性和算力效率,阶跃星辰联合 10 家芯片及基础设施厂商发起「模芯生态创新联盟」,打通芯片、模型和平台全链路技术。该联盟将为企业和开发者提供高效易用的大模型解决方案,加速应用落地。该联盟首批成员包括华为昇腾、沐曦、壁仞科技、燧原科技、天数智芯、无问芯穹、寒武纪、摩尔线程、硅基流动等。目前,华为昇腾芯片已首先实现 Step 3 的搭载和运行。沐曦、天数智芯和燧原等也已初步实现运行 Step 3。其它联盟厂商的适配工作正在开展。

要让大模型真正能用起来,需要全产业链的联合创新。据了解,“模芯生态创新联盟”是打通了芯片、模型、Infra 完整技术链路的创新生态体系。阶跃星辰会跟各个芯片、Infra 伙伴从底层进行联合创新,提升模型适配性和算力应用效率,一起为企业和开发者打造既好用、又高效的大模型。

随着推理模型成为大模型应用中的主流,能否降低推理成本也是决定大模型应用渗透率的关键问题。业内人士认为,API 价格战带来的普及只有短期效应,要彻底推动 AI 技术惠民需要发展可持续模式,通过模型系统架构创新是最本质的解题思路。「模芯生态创新联盟」的发起,是模型、芯片、Infra 全链路技术厂商协同探索创新的良好开始。据了解,Step 3 也将通过开源技术报告与全球开发者分享大幅降低推理成本背后的系统架构创新。

免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。https://www.szhzxw.cn/98032.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部