先说结论:H100真的卖到了30万,而且你还买不到
别怀疑,现在一张NVIDIA H100 GPU的市场价已经飙到了3-4万美元,折合人民币20-30万,官方建议零售价(MSRP)大概3万美元出头,但实际成交价早就翻倍了。更夸张的是H200,刚发布就被抢光,期货价格据说到了50万人民币。为什么一张显卡能顶一辆特斯拉?我扒了扒背后的原因。
供需失衡:算力饥渴+产能瓶颈
H100卖爆的第一原因是需求太猛。大模型训练需要海量算力,比如训练GPT-4据说用了25000张A100,而H100性能是A100的3-6倍,但一张H100跑大模型依然不够。全球AI公司都在抢卡,OpenAI、Meta、Google、微软这些巨头一买就是几万张。小公司只能喝汤,甚至汤都喝不到。
产能呢?台积电CoWoS封装产能是瓶颈。H100采用台积电4nm工艺,但需要CoWoS先进封装,这部分产能一直紧张,导致H100出货量受限。NVIDIA虽然疯狂下单,但2023年全年H100出货量估计只有50万张左右,而需求是百万级。
出口管制:中国买家疯狂囤货
2022年10月,美国对华出口管制升级,A100和H100被禁售到中国。2023年10月,管制进一步收紧,连阉割版的A800和H800也被禁。这导致国内AI公司、云厂商和投机者疯狂囤货。H100在国内黑市价格一度炒到30万以上,甚至传出50万的天价。很多公司提前下单,锁定库存,进一步推高了全球价格。
而且,囤货不止发生在国内。中东、东南亚的买家也在抢购,因为他们担心未来被制裁。NVIDIA虽然推出合规版H100(如H100 SXM),但需求依然大于供给。
替代方案:国产GPU能顶上吗?
既然买不到H100,国内厂商只能找替代品。目前主要有三条路:
- 国产GPU:华为昇腾910B是主流替代,性能接近A100,但软件生态差一截。寒武纪思元590、壁仞BR100等也有产品,但量产和生态都是问题。实际使用中,迁移成本高,很多模型需要重新优化。
- 降级方案:用多张消费级显卡(如RTX 4090)组集群。4090被禁后,现在只能买RTX 6000 Ada等专业卡,性价比低。而且显存、互联带宽都不如H100,训练大模型效率差很多。
- 云服务:租用海外云GPU,比如AWS、Azure的H100实例,但成本高、延迟大,而且有合规风险。
说白了,短期没有完美替代。H100的垄断地位很难被撼动,国产GPU还需要2-3年才能追赶上。
总结:价格还会涨吗?
短期内H100价格可能维持高位,因为需求还在增长(比如Sora、Gemini等新模型),而产能提升需要时间。NVIDIA预计2024年H100出货量翻倍,但依然供不应求。如果你急着用,建议租云GPU;如果长期布局,可以关注国产GPU进展,或者等NVIDIA的B100(预计2024下半年发布)。
最后,别想着囤卡发财了,现在入场成本太高,而且政策风险大。老老实实搞技术才是正道。
本文来源:一江山水的随笔
本文地址:https://blog.298.name/post/203.html
主要内容:H100凭什么卖30万一张?英伟达GPU价格暴涨背后
版权声明:如无特别注明,转载请注明本文地址!
博主有点懒,啥也没写!
