英伟达的AI霸权并非仅靠GPU
英伟达在人工智能计算领域的统治地位,从来不仅仅依赖于其GPU硬件。十多年来,该公司围绕CUDA构建了一个庞大的软件生态系统,使开发者能够更轻松地使用、优化和大规模部署其硬件。这一软件优势已成为保护英伟达免受竞争对手入侵AI加速器市场的最强壁垒之一。
如今,谷歌和亚马逊正直接攻击这一壁垒。两家公司均推出了新的开源工具,旨在让开发者更顺畅地在自有AI处理器上运行PyTorch工作负载。谷歌为其张量处理单元(TPU)开放了TorchTPU,而亚马逊云科技(AWS)则为其Trainium芯片推出了TorchNeuron。
目标十分明确:大幅降低从英伟达硬件迁移的难度。
谷歌向PyTorch开发者开放TorchTPU
谷歌于10月20日宣布,TorchTPU现已开源,为其TPU基础设施带来了原生PyTorch支持。PyTorch是开发和部署人工智能模型最广泛使用的框架之一,因此对于任何希望与英伟达竞争的公司而言,兼容性变得日益重要。
谷歌表示,现有的PyTorch工作负载可以在TPU上以极少的代码更改运行,同时保留熟悉的API和开发工具。TorchTPU还与包括Hugging Face、vLLM、SGLang、Ray和TorchTitan在内的广泛使用的AI软件集成。
对开发者而言,这一变化的意义不仅在于技术层面。传统上,将现有的机器学习工作负载从一个硬件生态系统迁移到另一个,往往涉及大量的工程工作、兼容性测试和优化。这些迁移成本构成了硬件锁定效应的重要来源。
谷歌正试图减少这种摩擦。如果开发者能够在不重建大部分软件栈的情况下在GPU和TPU之间迁移模型,那么硬件选择将更多地聚焦于价格、可用性和性能,而非仅仅依赖软件兼容性。
亚马逊通过TorchNeuron走相似路线
亚马逊云科技正在通过TorchNeuron采取几乎完全相同的策略。AWS发布了TorchNeuron的公开测试版,这是一个针对其Trainium系列AI加速器的开源原生PyTorch后端。
据AWS介绍,开发者只需进行配置更改,即可将PyTorch代码迁移至Trainium,而无需围绕独立框架重写模型。TorchNeuron支持标准的PyTorch API、即时执行(eager execution)以及torch.compile,同时允许开发者针对Trainium硬件对工作负载进行专门优化。
该软件目前支持由Trainium2和Trainium3芯片驱动的Amazon EC2实例。这一点至关重要,因为亚马逊在定制处理器上投入巨资,以作为从外部芯片供应商购买所有AI算力的替代方案。Trainium赋予亚马逊对其云基础设施经济性的更多控制权。但要说服客户使用这些处理器,仅靠有竞争力的硬件是不够的。
开发者需要与其现有工作流程相匹配的软件。TorchNeuron正是为了填补这一空白而设计。
为何PyTorch在AI芯片战中如此关键
当前的AI硬件竞争正日益演变为一场软件之战。英伟达花费多年时间,使CUDA深度融入机器学习开发之中。相关的库、优化工具以及开发者专业知识均围绕该生态系统生长。这造成了经济学家常描述的“转换成本”。
尽管竞争对手的加速器可能在理论上提供极具吸引力的性能或更低成本,但如果迁移工作负载需要数周的工程努力,企业仍可能选择英伟达。原生PyTorch支持改变了这一方程式。
谷歌和亚马逊正试图使其硬件感觉不再像是一个独立的平台,而是更像是一个熟悉PyTorch环境内的另一个目标设备。对于运营着庞大工作负载的大型AI公司而言,即使硬件灵活性的微小提升,也可能带来重大的财务影响。企业不必将所有工作负载都绑定在某一种加速器架构上,而是可以根据当时的最佳经济效益,将不同的模型路由至相应的基础设施。
英伟达的CUDA护城河面临不同性质的竞争
英伟达仍拥有显著优势。其GPU在AI训练和推理中依然广泛部署,且其CUDA生态系统中包含了多年优化的软件、文档和开发者知识。因此,谷歌和亚马逊不太可能在短时间内消除英伟达的软件优势。
但竞争的性质正在发生变化。历史上,挑战者往往试图主要通过硬件规格来击败英伟达。如今,超大规模科技公司越来越认识到,具有竞争力的硅片本身并不足够,还必须确保迁移过程轻松便捷。
此前路透社报道指出,亚马逊的TorchNeuron旨在减少开发者在测试Trainium之前所需执行的步骤数量,而谷歌一直在努力使TPU对已在使用PyTorch的开发者更加易于访问。这将开发者体验转化为了一种战略武器。
AI推理可能使硬件选择变得更加重要
随着AI市场从训练大型基础模型扩展到更广泛的领域,时机显得尤为关键。推理——即实际运行AI系统并响应用户请求——正成为计算需求中日益重要的组成部分。
推理工作负载在规模、延迟要求和成本敏感度方面差异巨大。这为替代处理器创造了机会。训练前沿模型的公司可能优先考虑最高性能和成熟的软件生态系统;而服务于数百万次小型推理请求的企业,可能更关心每Token的成本、能耗或基础设施可用性。
随着AI工作负载范围的扩大,单一芯片架构主导所有用例的可能性将降低。这也是主要科技公司纷纷开发自有加速器的原因之一:谷歌拥有TPU,亚马逊拥有Trainium,Meta开发了MTIA处理器。其他AI公司也在探索定制硅片,随着基础设施支出的持续增加,这一趋势愈发明显。
英伟达仍是市场领导者,但行业正朝着更加异构的计算环境迈进。
开源可能加速这一转变
TorchTPU和TorchNeuron的另一个显著特点是,它们均以开源软件的形式发布。这让开发者能更清晰地了解工具内容,并使外部贡献成为可能。这也可能帮助谷歌和亚马逊让企业放心,使用其硬件并不意味着自动陷入另一个封闭的软件生态系统。
AWS表示,使用Trainium训练的模型可以保存为标准检查点,并迁移到其他支持的硬件上。谷歌同样将TorchTPU定位为围绕硬件选择以及与现有AI工具的兼容性展开。这种定位至关重要。如果从英伟达迁移仅仅是用一种锁定形式替换另一种,开发者不太可能拥抱硬件多样性。通过强调PyTorch兼容性和开源工具,超大规模科技公司实际上是将定制加速器呈现为可互换的基础设施。
这对AI开发者意味着什么
对于AI团队而言,硬件竞争的加剧最终可能转化为更多的选择。开发者或许能够根据单个工作负载的特性,比较英伟达GPU、谷歌TPU和AWS Trainium,而不是因软件依赖而被强制停留在单一平台上。
这可能影响以下方面:
- AI训练成本
- 推理定价
- 云基础设施可用性
- 能源效率
- 部署灵活性
- 与云提供商的谈判能力
随着超大规模科技公司试图将其专有硬件的工作负载吸引过来,这也有望鼓励更具侵略性的定价策略。AWS已经声称Trainium能为某些AI工作负载提供具有吸引力的成本经济性,而谷歌则通过Google Cloud持续扩大TPU的可用性。这些芯片越容易被使用,开发者在评估替代方案时,对这些主张的可信度评价就越高。
谷歌和亚马逊真的能威胁英伟达吗?
仅凭竞争对手改善PyTorch兼容性,英伟达不太可能失去其地位。其硬件路线图、软件库和开发者社区仍然是巨大的竞争优势。但谷歌和亚马逊未必需要取代英伟达才能改变市场格局。即使在各自云平台上捕获更大份额的工作负载,也能减少对英伟达硬件的依赖,并在AI基础设施领域创造有意义的竞争。
更重要的是,这削弱了“AI开发者必须围绕单一硬件生态系统构建”的假设。因此,下一阶段的AI芯片战争,可能在很大程度上由软件可移植性与原始处理器性能共同决定。
谷歌的TorchTPU和亚马逊的TorchNeuron是这一转变的早期示例。对于英伟达而言,竞争挑战已变得清晰:对手不再仅仅试图制造更好的芯片,他们正在试图让离开英伟达变得更加容易。

资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种