ERNIE-4.5-21B-A3B-Paddle

ERNIE-4.5-21B-A3B-Paddle 是百度推出的文本混合专家(MoE)语言大模型,总参数量 21 […]

ERNIE-4.5-21B-A3B-Paddle 是百度推出的文本混合专家(MoE)语言大模型,总参数量 210 亿,每个 token 激活 30 亿参数。采用异构 MoE 架构与模态隔离路由技术,依托飞桨框架优化,适配智能对话、内容创作等轻量化场景,提供 ERNIEKit 微调与 FastDeploy 部署工具链,基于 Apache 2.0 协议开源。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →