低秩分解(Low-Rank Factorization)是把高维矩阵近似表示为两个或多个低维矩阵乘积的技术,其核心构成包括权重矩阵分解、嵌入表示降维与参数等效替换,解决的是模型参数量大、计算成本与存储需求高的问题,并不解决近似表示带来的精度损失问题。
低秩分解是什么?
低秩分解(Low-Rank Factorization)是把高维矩阵近似表示为两个或多个低维矩阵乘积的技术,其核心构成包括权重矩阵分解、嵌入表示降维与参数等效替换,解决的是模型参数量大、计算成本与存储需求高的问题,并不解决近似表示带来的精度损失问题。
🔗 本文链接