涌现能力(Emergent Abilities)是模型规模越过阈值后突然显现、在较小模型中无法观察的新能力,其核心构成包括参数量、训练数据量或计算量越过临界点后出现的多步推理、代码理解等跃迁,解决的是能力增长非线性、难以外推预估的问题,并不解决规模扩大后错误同样增多的问题。
涌现能力(Emergent Abilities)是指什么?
涌现能力(Emergent Abilities)是模型规模越过阈值后突然显现、在较小模型中无法观察的新能力,其核心构成包括参数量、训练数据量或计算量越过临界点后出现的多步推理、代码理解等跃迁,解决的是能力增长非线性、难以外推预估的问题,并不解决规模扩大后错误同样增多的问题。
🔗 本文链接