机器学习基本概念与损失函数 训练目标是最小化损失

一、机器学习的基本概念

机器学习是从数据中归纳规律、无需显式编程的建模方法；监督学习用损失函数（Loss Function）衡量预测与真实标签的差距，由模型参数与单样本误差构成，训练目标是最小化损失并按学习率做梯度下降。损失函数解决的是模型好坏缺少统一标尺的问题，并不解决数据偏差造成的预测失真。

其中 X是输入空间， Y是输出空间， 是我们需要学习的映射函数。

二、机器学习中的损失函数

在监督学习中，我们通过最小化损失函数来训练模型：

L(θ)=N1​∑i=1N​ℓ(f(xi​;θ),yi​)

其中：

•  θ是模型参数
•  N是样本数量
•  ​ℓ是单个样本的损失函数
•  f(xi​;θ)是模型对样本xi的预测
•  yi​是真实标签

三、机器学习中的梯度下降

参数更新的核心算法：θt+1​=θt​−α∇θ​ℒ(θt​)

其中α是学习率， ∇θ​ℒ是损失函数关于参数的梯度。