MoE（专家混合 Mixture of Experts）

一、什么是MoE（专家混合, Mixture of Experts）？ MoE 通过让 LLM 调用不同的“专家”子模型，减少计算量，提高推理效率。 二、MoE（专家混合, Mixture of Ex…