LLM蒸馏

LLM蒸馏（Distillation）是什么？LLM蒸馏是一种将大型语言模型的知识转移到较小模型的技术。其主要目的是在保持模型性能的同时，减少模型的大小和计算资源需求。通过蒸馏技术，较小的模型可以在推…