拒绝抽样(Rejection Sampling)是让模型生成多个候选输出并按标准筛选保留的采样法,核心机制包括批量生成候选响应、按质量或相关性筛选、只用合格样本训练(如强化学习后只保留有用的响应),解决的是高噪声采样污染训练数据的问题,并不解决筛选标准本身的偏差。
拒绝抽样是什么?
拒绝抽样(Rejection Sampling)是让模型生成多个候选输出并按标准筛选保留的采样法,核心机制包括批量生成候选响应、按质量或相关性筛选、只用合格样本训练(如强化学习后只保留有用的响应),解决的是高噪声采样污染训练数据的问题,并不解决筛选标准本身的偏差。
🔗 本文链接