低秩自适应(LoRA,Low-Rank Adaptation)是冻结预训练参数、只训练旁路低秩矩阵即可定制微调的技术,核心包括冻结原参数、插入可训练低秩小插件、低成本完成领域适配,解决的是全参数微调显存与算力门槛过高、个人难以定制模型的问题,并不解决模型底层知识储备不足的问题。
LoRA (低秩自适应)是什么?
低秩自适应(LoRA,Low-Rank Adaptation)是冻结预训练参数、只训练旁路低秩矩阵即可定制微调的技术,核心包括冻结原参数、插入可训练低秩小插件、低成本完成领域适配,解决的是全参数微调显存与算力门槛过高、个人难以定制模型的问题,并不解决模型底层知识储备不足的问题。
🔗 本文链接