面壁智能近日联合清华大学、OpenBMB开源社区，正式发布并开源了在低比特大模型训练方向的最新突破成果——BitCPM-CANN。该成果在华为昇腾平台上原生完成，标志着端侧AI大模型在轻量化与工程落地方面迈出了关键一步。数智化转型网www.szhzxw.cn
一、释放六倍显存红利打破硬件限制
本次开源的BitCPM-CANN包含0.5B、1B、3B、8B四个模型尺寸，与同尺寸全精度家族模型进行逐项对照评测，表现十分优异。相比传统BF16 精度，该模型在推理阶段能够释放约 6 倍的显存红利，让大模型运行的硬件门槛大幅降低。数智化转型网www.szhzxw.cn
对于手机产业而言， 6 倍的显存红利意味着原本对配置要求极高的8B参数级别大模型，如今也可以轻松流畅地运行在主流旗舰手机之上。这种对内存空间的极致释放，将直接加速端侧AI技术在移动设备上的普及与商用落地。数智化转型网www.szhzxw.cn
二、高能力保留率证实工程可复现性
在精简模型体积的同时，BitCPM-CANN依然保持了极高的性能水准，其模型能力保留率成功维持在90%至97.2%之间。其中，三个主要尺寸模型的能力保留率均达到了95.7%—97.2%，即使是体积最小的0.5B模型，其保留率也超过了90%。数智化转型网www.szhzxw.cn
这一亮眼的评测结果，系统性地证明了低比特训练技术路线具备极强的可扩展性与工程可复现性。面壁智能基于相关主干搭建了完整的低比特训练底座，涵盖环境适配、32K长序列支持及融合算子等完整工程体系，为后续面向昇腾的低比特训练工作筑牢了公共基础设施。数智化转型网www.szhzxw.cn
若您对人工智能感兴趣，可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商，可联系数智化转型网小助手思思（17757154048，微信同号）
若您为人工智能服务商，可添加数智化转型网小助手Nora，加入人工智能行业交流群。
若您为人工智能创业者，可添加数智化转型网社群主理人Carina，加入人工智能创业交流群。
声明：本文来自数智化转型网，版权归作者所有。文章内容仅代表作者独立观点，不代表数智化转型网立场，转载目的在于传递更多信息。如有侵权，请联系我们。
本文由数智化转型网（www.szhzxw.cn）转载，编辑/翻译：数智化转型网（Professionalism Achieves Leadership 专业造就领导者）白龙
