能力密度(Capability Density)是由清华大学研究团队提出、用于衡量模型实际效能相对其理论最大效能水平的指标,其核心构成包括有效参数规模估算、与实际参数大小的比率计算,解决的是参数量大但训练质量不高、真实能力被高估的问题,并不解决该指标无法覆盖具体任务表现的问题。
能力密度是什么?
能力密度(Capability Density)是由清华大学研究团队提出、用于衡量模型实际效能相对其理论最大效能水平的指标,其核心构成包括有效参数规模估算、与实际参数大小的比率计算,解决的是参数量大但训练质量不高、真实能力被高估的问题,并不解决该指标无法覆盖具体任务表现的问题。
🔗 本文链接