高通公司正式推出了其下一代人工智能芯片——AI200和AI250,旨在挑战市场领导者英伟达。这一发布引起了广泛关注,公司股价上涨了20%以上。
高通AI200芯片是一款专为机架级AI推理而设计的解决方案,其目标是降低总拥有成本(TCO)并提高性能。该芯片支持768GB的LPDDR内存,为具有这种内存容量和更低成本的大型语言模型(LLM)和多模态模型(LMM)的推理提供了有力支持。
相比之下,高通AI250采用了创新的近内存计算架构,使其能够提供超过十倍的内存带宽,显著降低功耗,提高AI推理任务的效率和性能。两款芯片均配备直接液冷技术,增强散热效果。
在硬件之外,高通还推出了全面的AI软件堆栈,涵盖从应用到系统软件的各个层面,针对AI推理进行了优化。开发人员可以通过高通的Efficient Transformers库和AI推理套件轻松部署和管理模型。该软件栈支持众多主流机器学习框架和推理引擎,为AI应用开发提供了丰富的工具、库和API。
预计高通的AI200和AI250将分别于2026年和2027年商用。此次发布不仅展示了高通在AI领域的雄心壮志,也引起了市场的广泛关注。
声明:本文来自网络,版权归作者所有。文章内容仅代表作者独立观点,不代表数字化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。数字化转型网www.szhzxw.cn

本文由数字化转型网(www.szhzxw.cn)转载而成,来源于网络;编辑/翻译:数字化转型网(Professionalism Achieves Leadership 专业造就领导者)默然
