为了挑战 NVIDIA 在 AI 芯片市场的主导地位，谷歌母公司 Alphabet 正在推进一项名为“TorchTPU”的战略举措。该计划旨在显著提升其张量处理单元（TPU）芯片与PyTorch框架的兼容性，从而降低开发者从NVIDIA GPU转向谷歌TPU时的技术障碍和迁移成本。
长期以来，全球最广泛使用的开源AI开发框架PyTorch与NVIDIA的CUDA软件栈深度集成，形成了NVIDIA最强大的生态护城河。相比之下，谷歌的TPU主要针对其自身的JAX框架进行了优化，这给许多习惯使用PyTorch的开发者带来了性能瓶颈。通过TorchTPU项目，谷歌计划投入更多战略资源，优化底层软件与PyTorch之间的兼容性。
此外，谷歌正在考虑开源部分核心软件组件，以吸引更多开发者。据报道，谷歌还与PyTorch的主要维护者Meta进行了深度合作，探索Meta获得更多TPU资源的可能性。在硬件方面，谷歌最新的第七代TPU v7（代号Ironwood）在推理场景方面得到了显著优化。
在通过TorchTPU解决软件不足后，谷歌预计将为企业提供比NVIDIA更具成本效益的替代方案，加速其AI基础设施的商业化。
