标签：量化 (Quantization)

大模型太胖了，挤不进普通电脑。量化就是给模型“脱水”。通过降低数字的精度，模型体积可以瞬间缩小几倍。 虽然精度