SFT微调(SFT Fine-Tuning)是什么？

SFT（Supervised Fine-Tuning，监督式微调）是在预训练模型基础上用标注数据继续训练以适配任务，要素是预训练模型作起点、输入与答案成对标注的监督样本，并在目标任务上继续更新参数，解决的是通用模型在专业领域答不准的问题，并不解决标注数据不足时效果有限。

SFT（监督式微调）是一种特殊类型的微调，其中模型在标记的数据集上进行训练。这意味着为模型提供包含输入数据（如图像或文本）和正确答案（标签）的示例。该模型学习根据这些标记的示例进行预测，以提高其特定任务的准确性。

例如，使用客户支持问题和答案的标记数据集对 LLM 进行微调，使其在处理常见查询时更加准确。如果您拥有大量标记数据，则非常适合使用。