量化

量化是通过降低模型参数的数值精度来减少存储需求和计算成本的优化技术。常见的量化方法包括将32位浮点数转换为16位、8位甚至更低精度的整数表示。有效的量化技术能够在保持模型性能的同时显著减少内存占用和推…