RLHF (人类反馈强化学习)

如果没有 RLHF，AI 模型可能只是一个会说话的怪胎。是 RLHF 让它变得有礼貌、好用、且符合人类价值观。我们让模型生成几个回答，让人类来打分。 久而久之，模型学会了“人类喜欢听什么”，从而不再只…