GPU租用与训练预算计算器

本地处理

打赏支持
分享链接
反馈建议

租卡的成本结构非常直白：卡数 × 小时数 × 单价。真正的坑在两头——一是训练中断重跑（一周的训练挂三次很常见），二是只算 GPU 忘了存储与出网流量。另外别忘了算自建回本线：连续高负载才值得买卡，波峰波谷业务租更划算。

GPU 型号

卡数

训练小时数

单价（美元/卡·时，可改）

中断重跑率（%）

汇率（元/美元）

存储与流量（美元/天）

GPU 成本(美元)

折合人民币

含重跑总成本

自建回本小时

型号	显存	单价(美元/时)	本机时成本(8 卡 × 100 时)	自建回本小时

GPU 成本 = 卡数 × 小时数 × 单价（美元）；含重跑成本 = GPU 成本 × (1 + 中断重跑率)；额外费用 = 存储与流量单价 × 运行天数；人民币成本 = (含重跑成本 + 额外费用) × 汇率。自建回本小时 = 单卡购机价 ÷ 单价，即连续满负载跑多少小时之后，自购比租用更便宜（未计电力、机柜、运维）。

租还是买

这个问题的答案只取决于一个变量：年利用率。业界经验是利用率长期高于 50% 且数据主权要求高，自建更划算；阶段性训练、波动推理则租用弹性计费优势明显。自建的真实成本远不止卡钱——机柜功率、交换机、存储阵列、运维人力叠加起来，通常把「硬件价 × 3 到 4 倍」才是真实 TCO。

主流型号参考价位

型号	显存	按小时参考价	适合
B200	180 GB	约 6 美元/时	超大模型、长上下文训练
H200	141 GB	约 3.6 美元/时	70B 以上训练、长序列推理
H100 SXM	80 GB	约 2.7 美元/时	大模型训练主力，NVLink 通信最好
A100 80GB	80 GB	约 1.2 – 1.4 美元/时	经典算力水位线，性价比稳定
L40S	48 GB	约 0.8 美元/时	推理、图像生成、渲染
RTX 4090	24 GB	约 0.3 – 0.4 美元/时	小模型微调、实验、生成类

需要提醒的是：这些是市场行情区间，不是固定价。同一张 H100，社区市场可能 1.9 美元、托管云可能 11 美元，差五六倍很正常——价差来自合规认证、SLA、网络带宽与是否独享。看价格之前先确认你买的是哪一类。

重跑率是预算里最大的隐形黑洞

大模型训练中断的原因五花八门：节点掉线、显存溢出、数据管道报错、机房维护。一周的训练挂三次并不罕见，所以预算里必须给重跑留 15%–30%。降低重跑损耗的办法比压缩单价更有效：

缩短检查点间隔：每 30 分钟存一次，中断最多损失半小时而不是半天。代价是存储 I/O 与空间。
用可抢占/竞价实例：单价能低到按需的一半，配合自动重启和检查点，总成本可能更低。
先小规模验证：用 1% 数据跑通全流程再上全量，把配置错误扼杀在便宜的阶段。
优先选下载带宽高的机器：千兆口下载 200 GB 模型要半小时以上，这段时间一样在计费。

容易漏掉的成本项

存储与流量：训练数据、检查点、模型权重的存储，以及跨区域出网流量，通常按天/按 GB 计费，长训练里能占到 5%–15%。
CPU 与内存：部分平台按整机计费，数据预处理阶段 GPU 闲置但仍在付费。
调试时间：真正开始训练前的环境搭建、依赖安装、数据校验，往往要花几小时到几天。

最后一条实用建议：把「估算成本」当上限而不是预期。先用 1 张卡跑 100 步，量出每步耗时和显存占用，再乘以总步数——这比任何理论估算都准。

你可能还想问

训练预算由什么构成？

租用时长、实例类型与数量、存储与数据传输，以及调试与重跑的额外消耗；实际训练常因试错远超首次估算。

怎么估算训练时长？

先跑小规模基准测单步耗时，再按总步数外推；直接按参数量猜时长误差很大，实测外推更可靠。

怎么控制成本？

用可中断的竞价实例跑容错任务、缩短不必要的训练轮次、及时释放闲置实例；最大的浪费往往来自忘记关闭的机器。