一江山水的随笔

当前位置:首页 - 技术 - 正文

Enjoy life!

先说结论:H100真的卖到了30万,而且你还买不到

别怀疑,现在一张NVIDIA H100 GPU的市场价已经飙到了3-4万美元,折合人民币20-30万,官方建议零售价(MSRP)大概3万美元出头,但实际成交价早就翻倍了。更夸张的是H200,刚发布就被抢光,期货价格据说到了50万人民币。为什么一张显卡能顶一辆特斯拉?我扒了扒背后的原因。

供需失衡:算力饥渴+产能瓶颈

H100卖爆的第一原因是需求太猛。大模型训练需要海量算力,比如训练GPT-4据说用了25000张A100,而H100性能是A100的3-6倍,但一张H100跑大模型依然不够。全球AI公司都在抢卡,OpenAI、Meta、Google、微软这些巨头一买就是几万张。小公司只能喝汤,甚至汤都喝不到。

产能呢?台积电CoWoS封装产能是瓶颈。H100采用台积电4nm工艺,但需要CoWoS先进封装,这部分产能一直紧张,导致H100出货量受限。NVIDIA虽然疯狂下单,但2023年全年H100出货量估计只有50万张左右,而需求是百万级。

出口管制:中国买家疯狂囤货

2022年10月,美国对华出口管制升级,A100和H100被禁售到中国。2023年10月,管制进一步收紧,连阉割版的A800和H800也被禁。这导致国内AI公司、云厂商和投机者疯狂囤货。H100在国内黑市价格一度炒到30万以上,甚至传出50万的天价。很多公司提前下单,锁定库存,进一步推高了全球价格。

而且,囤货不止发生在国内。中东、东南亚的买家也在抢购,因为他们担心未来被制裁。NVIDIA虽然推出合规版H100(如H100 SXM),但需求依然大于供给。

替代方案:国产GPU能顶上吗?

既然买不到H100,国内厂商只能找替代品。目前主要有三条路:

  • 国产GPU:华为昇腾910B是主流替代,性能接近A100,但软件生态差一截。寒武纪思元590、壁仞BR100等也有产品,但量产和生态都是问题。实际使用中,迁移成本高,很多模型需要重新优化。
  • 降级方案:用多张消费级显卡(如RTX 4090)组集群。4090被禁后,现在只能买RTX 6000 Ada等专业卡,性价比低。而且显存、互联带宽都不如H100,训练大模型效率差很多。
  • 云服务:租用海外云GPU,比如AWS、Azure的H100实例,但成本高、延迟大,而且有合规风险。

说白了,短期没有完美替代。H100的垄断地位很难被撼动,国产GPU还需要2-3年才能追赶上。

总结:价格还会涨吗?

短期内H100价格可能维持高位,因为需求还在增长(比如Sora、Gemini等新模型),而产能提升需要时间。NVIDIA预计2024年H100出货量翻倍,但依然供不应求。如果你急着用,建议租云GPU;如果长期布局,可以关注国产GPU进展,或者等NVIDIA的B100(预计2024下半年发布)。

最后,别想着囤卡发财了,现在入场成本太高,而且政策风险大。老老实实搞技术才是正道。

本文来源:一江山水的随笔

本文地址:https://blog.298.name/post/203.html

主要内容:H100凭什么卖30万一张?英伟达GPU价格暴涨背后

版权声明:如无特别注明,转载请注明本文地址!

下一篇

博主有点懒,啥也没写!
想找什么搜索会更快哦!
站点信息
  • 文章总数:171
  • 页面总数:1
  • 分类总数:4
  • 标签总数:170
  • 评论总数:61
  • 浏览总数:1643341
控制面板
您好,欢迎到访网站!
  查看权限
Top