数智化转型网 人工智能资讯 每日人工智能资讯|无需云端API!手机即可本地运行,Liquid AI推出端侧智能体模型LFM2.5

每日人工智能资讯|无需云端API!手机即可本地运行,Liquid AI推出端侧智能体模型LFM2.5

8月5日,AI初创公司Liquid AI宣布正式发布专为智能体工作流设计的端侧模型LFM2.5-2.6B。该模型拥有26亿参数,无需依赖云端API即可在智能手机等终端设备上完全本地运行,为开发者提供了低成本、低延迟且兼具隐私保护的端侧智能体解决方案。数智化转型网www.szhzxw.cn

在技术架构与训练路径上,LFM2.5-2.6B基于约34万亿词元进行预训练,词表扩展至128K。其后训练流程整合了监督微调、教师特化、多领域在策略蒸馏以及智能体强化学习四个阶段,赋予了模型出色的规划、工具调用与复杂多步骤任务处理能力。基准测试显示,该模型在指令遵循和工具使用上的表现可媲美规模近四倍的大模型。

此外,该模型在硬件适配与推理性能上表现亮眼,在M5Max芯片上推理速度达220token/秒,手机端亦可稳定维持30token/秒的响应速度。目前,LFM2.5-2.6B及其基础版本已在Hugging Face全面开源,并原生支持llama.cpp、MLX、vLLM等主流推理框架,标志着高能效端侧智能体迈入实用化阶段。数智化转型网www.szhzxw.cn

若您对人工智能感兴趣或为人工智能创始人,可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数智化转型网小助手思思(17757154048,微信同号)

思思企微
思思企微

若您为人工智能服务商,可添加数智化转型网小助手Jasper,加入人工智能行业交流群。

鹿鸣企微
Jasper企微

声明:本文来自数智化转型网,版权归作者所有。文章内容仅代表作者独立观点,不代表数智化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。

底部图片
免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。https://www.szhzxw.cn/135301.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部