算力租赁定价揭秘：GPU云服务器避坑指南

结论：先看有效算力，别被“总算力”忽悠

算力租赁的价格猫腻很多，核心要看有效算力（你实际能跑满多少TFLOPS）和多卡互联是否收费。我测了一圈，结论是：
- 短期实验用竞价实例最香，价格低至按小时价的30%；
- 长期训练选包月，但注意有些平台包月不包带宽；
- 阿里云、腾讯云适合企业用户，稳定但贵；AutoDL适合个人玩家，性价比高但抢不到高配卡。

一、定价模式：按小时/包月/竞价实例

按小时：灵活但单价高

适合调试代码、跑短任务。常见价格：
- 阿里云 A100 80G：约 40元/小时
- 腾讯云 H100：约 60元/小时
- AutoDL A100 40G：约 15元/小时（但经常没货）

包月：长期训练首选，但小心隐藏费用

包月通常比按小时便宜30%-50%，但注意：
- 有些平台包月不含公网带宽，额外收 100元/月；
- 存储空间单独计费，比如阿里云 ESSD 每GB 0.0008元/小时，跑一个月光存储就五六百；
- 关机是否收费？很多平台关机后只收存储费，但有些照收CPU内存费。

竞价实例：便宜但可能被中断

适合可中断的任务（如分布式训练断点续传）。价格波动大，比如腾讯云 H100 竞价约 18元/小时（原价30%），但可能随时被回收。建议搭配自动快照，否则哭都来不及。

二、关键价格区间：H100/A100/A800

以下是我整理的2024年主流平台参考价（单卡，按小时）：

三、核心概念：总算力 vs 有效算力 vs 多卡互联

总算力（Peak TFLOPS）

显卡标称的峰值算力，比如H100 FP16 1979 TFLOPS。但实际跑模型时，受散热、驱动、CUDA版本影响，能跑满80%就不错了。有些平台标“总算力”其实是多卡叠加，比如8卡A100标称总算力 8*312=2496 TFLOPS，但实际单卡有效算力只有250左右。

有效算力（Sustained TFLOPS）

连续跑30分钟以上的实际算力。测试方法：nvidia-smi dmon -s pucvmet -d 1 看GPUUtil和温度。如果温度超过85℃，算力会降频。我试过某平台A100，标称312 TFLOPS，实际跑LLaMA 70B只有210 TFLOPS，缩水三分之一。

多卡互联费用

这是大坑！很多平台多卡机器按卡数收费，比如8卡A100按小时单价是单卡的8倍，但实际互联带宽（NVLink/NVSwitch）是否达标？有些平台用PCIe版A100，带宽只有NVLink的1/5，跑分布式训练效率极低。建议选机器时确认：
- 是否支持NVLink全互联？
- 多卡间通信测试：all_reduce_bench 跑一下，看带宽是否接近标称值。

四、平台性价比对比：阿里云 vs 腾讯云 vs AutoDL

阿里云：稳定但贵，适合企业

优势：
- 机器稳定，几乎不掉线；
- 支持竞价实例+自动快照，容错好；
- 售后响应快（企业版）。
劣势：
- 价格高，A100 80G按小时40元，包月约20000元；
- 存储和带宽单独收费，总成本可能翻倍。

腾讯云：性价比适中，有竞价实例

优势：
- H100价格比阿里云低10%-20%；
- 竞价实例便宜，适合临时任务；
- 内网传输速度快。
劣势：
- 包月机器库存少，经常要预定；
- 多卡机器互联配置有时不透明。

AutoDL：个人玩家首选，但抢卡靠手速

优势：
- 价格最低，A100 40G按小时12元，包月约5000元；
- 存储便宜，系统盘免费；
- 社区镜像丰富，开箱即用。
劣势：
- 热门卡（H100、A100 80G）经常售罄，需要定时抢；
- 机器有时不稳定，我遇到过掉线；
- 售后响应慢，工单回复要半天。

五、避坑总结与实操建议

选型三步走：

1. 明确需求：跑什么模型？LLaMA 70B需要80G显存，建议A100 80G或H100；小模型用A100 40G足够。
2. 测试有效算力：先租1小时跑benchmark，用 nvidia-smi 看实际功耗和温度，低于标称值80%就换平台。
3. 计算总成本：除了显卡费，还要算存储、带宽、数据迁移费。长期用建议包月+按量存储。

省钱技巧：

• 用竞价实例训练可中断任务，搭配 torch.distributed.checkpoint 做断点续传；
• 多卡任务优先选 NVLink全互联 机型，避免PCIe瓶颈；
• 国内平台注意备案，某些境外卡（如H100）需要额外提交申请。

最后，别信“算力超市”那种标价极低的，往往有隐藏套路。先试后买，跑个样例代码再决定。祝大家租卡顺利，模型早日收敛！