冷启动数据,是在标注样本不足时为模型提供最低限度任务认知的数据,构成上包括少量但覆盖基本形态的样本、输入与预期答案的明确标注,以及用于建立基础理解的微调用途(如从网站抓取的FAQ对初步微调),解决的是新任务缺标注数据、模型无从起步的问题,并不解决规模化训练所需的样本量与质量。
冷启动数据是什么?
冷启动数据,是在标注样本不足时为模型提供最低限度任务认知的数据,构成上包括少量但覆盖基本形态的样本、输入与预期答案的明确标注,以及用于建立基础理解的微调用途(如从网站抓取的FAQ对初步微调),解决的是新任务缺标注数据、模型无从起步的问题,并不解决规模化训练所需的样本量与质量。
🔗 本文链接