RLHF(人类反馈强化学习)是指什么?

人类反馈强化学习(RLHF,Reinforcement Learning from Human Feedback)是用人类偏好数据优化模型行为的方法,核心构成包括预测偏好评分的奖励模型与强化学习优化流程,解决的是模型输出不贴合人类偏好,并不…