数智化转型网szhzxw.cn 人工智能资讯 人工智能资讯|TPU基准测试,聚焦推理:NVIDIA整合Groq技术重塑AI工厂架构

人工智能资讯|TPU基准测试,聚焦推理:NVIDIA整合Groq技术重塑AI工厂架构

NVIDIA最近花费约20亿美元,从AI芯片初创公司Groq获得了非独家技术授权。尽管Groq仍独立运营,但其创始人Jonathan Ross等关键团队成员已加入NVIDIA。外界将该交易视为“事实上的收购”,旨在规避监管审查,交易金额是Groq之前估值的三倍。

战略防御:遏制谷歌TPU的威胁

NVIDIA此举的核心目标是应对谷歌张量处理单元(TPU)带来的日益严峻挑战。苹果和Anthropic等科技巨头已开始转向基于TPU的模型训练,谷歌即将推出的TPUv7性能已能与英伟达的Blackwell架构匹敌。更重要的是,TPU的成本优势已成为客户施压NVIDIA的筹码。通过收购Groq针对大型语言模型推理优化的LPU(语言处理单元)技术,NVIDIA旨在解决其在低延迟推理市场中的不足。

拓展推理市场:从培训到应用

英伟达首席执行官黄仁森表示,公司计划将Groq的低延迟处理器集成到英伟达的AI工厂架构中,以应对更广泛的实时工作负载。虽然NVIDIA GPU在模型训练领域依然占主导地位,但公司在推理市场面临来自Meta、OpenAI及多家初创企业提供的成本效益解决方案日益激烈的竞争。尽管Groq在产能和收入方面面临挑战,但其独特的技术架构被视为提升NVIDIA推理性能的关键增量因素。

行业趋势:巨头采取“整合”策略

若您对人工智能感兴趣,可添加数字化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数字化转型网小助手思思(17757154048,微信同号)

此图片的alt属性为空;文件名为image-82.png

若您为人工智能服务商,可添加数字化转型网小助手Nora,加入人工智能行业交流群。

此图片的alt属性为空;文件名为image-83.png

若您为人工智能创业者,可添加数字化转型网社群主理人Carina,加入人工智能创业交流群。

此图片的alt属性为空;文件名为image-84.png

声明:本文来自网络,版权归作者所有。文章内容仅代表作者独立观点,不代表数字化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。数字化转型网www.szhzxw.cn

此图片的alt属性为空;文件名为image-12.png

本文由数字化转型网(www.szhzxw.cn)转载而成,来源于网络;编辑/翻译:数字化转型网(Professionalism Achieves Leadership 专业造就领导者)默然

免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。http://www.szhzxw.cn/104904.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部