ERNIE-4.5-21B-A3B-Paddle 是百度推出的文本混合专家(MoE)语言大模型,总参数量 210 亿,每个 token 激活 30 亿参数。采用异构 MoE 架构与模态隔离路由技术,依托飞桨框架优化,适配智能对话、内容创作等轻量化场景,提供 ERNIEKit 微调与 FastDeploy 部署工具链,基于 Apache 2.0 协议开源。
ERNIE-4.5-21B-A3B-Paddle
ERNIE-4.5-21B-A3B-Paddle 是百度推出的文本混合专家(MoE)语言大模型,总参数量 21 […]
🔗 本文链接