吞吐量怎么算？

吞吐 = 步速 × 全局 batch，token 吞吐再 × 序列长度。例：2 it/s × batch 64 × 2048 token = 26 万 tokens/s。对照训练日志里的 it/s 填即可。

吞吐低说明什么？

大概率 MFU 低：检查是否 OOM 后 batch 太小、是否没开 flash-attention、数据加载是否成瓶颈。吞吐 × 时长 = 总成本，低吞吐直接烧钱。

AI & COMPUTE · 开发者算账系列

🧮

从训练日志抄一个步速，样本吞吐、token 吞吐、完成天数全算出来。

💡为什么要做这个工具

"这个数据集要训多久？"——从训练日志找 it/s，配合 batch size 就能精确推算。工具输出样本吞吐、token 吞吐和 1/3 epochs 的完成时间。

默认值是典型配置（如 7B 模型、A100 单卡），按你的实际情况改。

改任何一个数，结论、明细、敏感性分析全部自动跟着变。

红黄绿结论卡告诉你够不够、贵不贵，行动清单告诉你下一步。

📏默认参数是典型档位（模型规模、卡型、单价），按你的实际配置改了再下结论

🪤云厂商价格与折扣变动快，以控制台实际报价为准，预留 20% 余量

🧮别只看峰值：显存和成本都要考虑峰值 + 平均 + 长尾三种口径

❓常见问题

吞吐量怎么算？: 吞吐 = 步速 × 全局 batch，token 吞吐再 × 序列长度。例：2 it/s × batch 64 × 2048 token = 26 万 tokens/s。对照训练日志里的 it/s 填即可。
吞吐低说明什么？: 大概率 MFU 低：检查是否 OOM 后 batch 太小、是否没开 flash-attention、数据加载是否成瓶颈。吞吐 × 时长 = 总成本，低吞吐直接烧钱。