标签：模型优化技术

模型优化技术是通过压缩、量化与结构改造降低模型参数量和推理开销的一类工程方法，其核心构成包括知识蒸馏、量化感知训练、动态网络与稀疏训练，解决的是大模型在部署端显存与算力受限的问题，并不解决压缩带来的精度损失与效果下降问题。