梯度下降(Gradient Descent)是沿损失函数梯度的反方向迭代更新模型参数、以逐步降低损失值的优化算法,其核心构成包括损失函数求导、参数迭代更新与步长控制,解决的是模型参数无法凭经验手工设定、只能靠优化逼近最优值的问题,并不解决局部极小值与病态曲面造成的收敛停滞问题。
梯度下降是什么?
梯度下降(Gradient Descent)是沿损失函数梯度的反方向迭代更新模型参数、以逐步降低损失值的优化算法,其核心构成包括损失函数求导、参数迭代更新与步长控制,解决的是模型参数无法凭经验手工设定、只能靠优化逼近最优值的问题,并不解决局部极小值与病态曲面造成的收敛停滞问题。
🔗 本文链接