清华大学和Miracl AI在《自然机器智能》上发表文章,提出了“能力密度”指标——即每个参数可支持的有效智能,指出模型性能应当注重“密度而非规模”。团队分析了51个主流开源大型模型,发现密度每3.5个月翻倍,使同一任务所需的参数数量呈指数级减少。
研究强调,高密度并不意味着简单的压缩;“把词典塞进一本小书里”会导致智能流失,因此需要“数据-力量-算法”的协作设计。基于此,Miracl AI推出了“高密度”0.5B-2B系列模型,在相同下游任务上实现了相当于7B-13B模型的性能。这些模型已被扩展并应用于手机语音助手、车载交互和智能家居边缘盒,推理延迟低于100毫秒,终端端功耗降低了45%。
Miracl AI首席执行官李丹表示,下一步将与清华大学合作,将密度提升曲线纳入模型开发的关键绩效指标(KPI)。目标是在2026年前推出一款“背包级”个人大型模型,可运行于NPU智能手表上,推动“模型微型化”生态系统的发展。