什么是MoE（专家混合 Mixture of Experts）？ 📅 2025年4月6日 MoE（Mixture of Experts，混合专家）是让模型推理时只激活部分专家子网络、以此降低计算量的模型架构，其核心构成包括门控路由、专家子网络与稀疏激活，解决的是模型参数增加带来的算力与推理延迟压力，并不解决专家负载不均与显存占用…