谷歌正式发布全新Web端AI推理加速库LiteRT.js。该库采用WebAssembly技术,并深度结合WebGPU与WebNN等硬件加速能力,旨在替代TensorFlow.js所使用的传统JavaScript内核方案,大幅提升浏览器中人工智能与机器学习工作负载的运行速度。数智化转型网www.szhzxw.cn
WebAssembly是一种二进制指令格式,能让网页在浏览器中以接近本地代码的速度执行高性能计算。TensorFlow.js则是谷歌此前开发的经典库,支持开发者将基于TensorFlow构建的模型直接部署到Web浏览器中,实现客户端AI功能。此次推出的LiteRT.js正是在这一基础上进行的架构升级。数智化转型网www.szhzxw.cn
实测提速 3 倍,老旧设备也有用武之地
谷歌在搭载M4 芯片的 2024 款苹果MacBook Pro笔记本上进行了实测,结果显示,相比现有方案,LiteRT.js的推理速度最高提升 3 倍。不过谷歌也坦诚表示,在运行旧硬件或使用不同引擎的浏览器时,实际性能表现可能存在一定差异。
从技术路线来看,谷歌正推动Web端AI推理从纯JavaScript时代迈向WebAssembly加硬件加速的新阶段。当浏览器跑AI模型的速度逐步逼近原生应用水平,无需安装客户端、打开网页即可使用AI功能的体验将更加流畅,这对端侧AI的普及无疑是一针强心剂。数智化转型网www.szhzxw.cn
若您对人工智能感兴趣或为人工智能创始人,可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数智化转型网小助手思思(17757154048,微信同号)

若您为人工智能服务商,可添加数智化转型网小助手Jasper,加入人工智能行业交流群。

声明:本文来自数智化转型网,版权归作者所有。文章内容仅代表作者独立观点,不代表数智化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。

本文由数智化转型网(www.szhzxw.cn)转载,编辑/翻译:数智化转型网(Professionalism Achieves Leadership 专业造就领导者)白龙
