SFT的工作原理是什么？
SFT（Supervised Fine-Tuning，监督微调）的工作原理是预训练后用标注数据继续训练，依次复制模型副本、调整输出层并用反向传播更新参数，GPT-3的训练第一步即采用此法，解决的是让模型对齐特定任务与对话格式，并不解决模型输…
标签：SFT
什么是监督微调（SFT）？
SFT（Supervised Fine-Tuning，监督微调）是用标注好的问答数据对预训练语言模型继续训练、使其适配特定任务的技术，核心构成包括标注数据集、任务指令模板与输出对齐格式，解决的是通用模型在垂直场景答非所问的问题，并不解决预训…