中国数智化转型网 人工智能资讯 每日人工智能资讯|Google发布Gemma412B开源模型:主打无编码器全模态,16GB内存笔记本可本地运行

每日人工智能资讯|Google发布Gemma412B开源模型:主打无编码器全模态,16GB内存笔记本可本地运行

Google日前正式发布全新开源大模型Gemma412B,标志着端侧全模态AI迎来突破性进展。该模型颠覆了传统多模态模型依赖视觉和音频外部编码器的复杂链路,创新性地采用“Unified”无编码器架构。数智化转型网www.szhzxw.cn

通过这一设计,文字、图像、音频及视频四种模态的原始数据得以直接输入同一个Transformer主干网络进行一体化处理,从根本上消除了因传统外挂“翻译”模块带来的显存占用与高延迟问题,实现了更接近原生的跨模态理解。数智化转型网www.szhzxw.cn

作为一款专为消费级硬件优化的端侧模型,Gemma412B在参数效率上表现惊人。在基准测试中,其跑分成绩直逼Google自家26B体量的大模型,而内存占用却不足其一半。模型具备256K Token的超长上下文窗口,支持超过140种语言,并内置强化逐步推理的Thinking模式与原生Function Calling能力。数智化转型网www.szhzxw.cn

在落地部署方面,该模型最低仅需16GB显存或统一内存即可流畅运行,经4-bit量化后更是可下探至8GB,其核心目标直指在普通笔记本上实现高效本地化运行。目前,Google AI Edge Gallery已正式从手机端扩展至桌面端,macOS用户下载安装即可本地激活Gemma412B。得益于内置的沙盒Python环境以及支持语音交互的Eloquent系统,用户已能在聊天界面中直接执行代码、绘制图表并进行流畅的语音对齐交互。数智化转型网www.szhzxw.cn

业内分析认为,Gemma412B的推出进一步加速了AI去中心化的进程。其极高的性能密度与端侧亲和力,不仅打破了云端算力的桎梏,也为未来兼顾低延迟与隐私安全的端侧全模态个人助理应用铺平了技术道路。数智化转型网www.szhzxw.cn

若您对人工智能感兴趣,可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数智化转型网小助手思思(17757154048,微信同号)

思思微信二维码

若您为人工智能服务商,可添加数智化转型网小助手Nora,加入人工智能行业交流群。

Nora微信二维码

若您为人工智能创业者,可添加数智化转型网社群主理人Carina,加入人工智能创业交流群。

Carina微信二维码

声明:本文来自数智化转型网,版权归作者所有。文章内容仅代表作者独立观点,不代表数智化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。

底部图片
免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。https://www.szhzxw.cn/122083.html
0
标签:
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部