Dropout(随机失活)是一种在训练过程中随机把部分神经元激活值置零的正则化技术,核心构成包括随机失活掩码、训练期缩放与推理期全连接还原,解决的是模型过度依赖少数神经元导致过拟合、泛化能力下降的问题,并不解决训练数据不足与标注错误带来的效果问题。
Dropout是什么?
Dropout(随机失活)是一种在训练过程中随机把部分神经元激活值置零的正则化技术,核心构成包括随机失活掩码、训练期缩放与推理期全连接还原,解决的是模型过度依赖少数神经元导致过拟合、泛化能力下降的问题,并不解决训练数据不足与标注错误带来的效果问题。
🔗 本文链接