LLM蒸馏是什么？
LLM蒸馏（Large Language Model Distillation）是把大模型的能力迁移到小模型上的技术过程，核心包括监督微调、特征对齐、偏好学习三种路径，解决的是大模型推理成本高、难以在资源受限环境普及的问题，并不解决小模型自…
标签：LLM蒸馏
什么是LLM蒸馏技术？
LLM蒸馏（Large Language Model Distillation）是把大语言模型的知识转移到较小模型的技术，核心包括保持性能同时缩小体积、减少算力需求、让小模型推理更高效，解决的是大模型开销高、难以在受限环境部署的问题，并不解…