自建 GPU 和用 API 怎么选？

看盈亏平衡点：(月固定成本 ÷ 30 ÷ API单价) × 1M tokens/天。例：GPU+运维 ¥7,500/月、API 均价 ¥4/M → 平衡点约 6,250 万 tokens/天，低于它就老实用 API。

自建除了显性成本还有什么坑？

扩容难（流量峰值要按峰值备机）、高峰排队伤体验、运维故障要人扛。自建省钱的前提是流量平稳、模型开源可跑、有运维人。

基线流量走自建（卡常年在跑），峰值溢出走 API 弹性接住——两边都不浪费，是多数团队的最优解。

AI & COMPUTE · 开发者算账系列

🧮

日用量多少用 API、多少该自建？算出盈亏平衡点，多一分钱都不白花。

💡为什么要做这个工具

自建 GPU 固定成本高但边际趋零，API 弹性好但量大时贵。工具算出两条成本线的交点：日 token 量超过平衡点，自建开始划算——数字说话，不站队。

默认值是典型配置（如 7B 模型、A100 单卡），按你的实际情况改。

改任何一个数，结论、明细、敏感性分析全部自动跟着变。

红黄绿结论卡告诉你够不够、贵不贵，行动清单告诉你下一步。

📏默认参数是典型档位（模型规模、卡型、单价），按你的实际配置改了再下结论

🪤云厂商价格与折扣变动快，以控制台实际报价为准，预留 20% 余量

🧮别只看峰值：显存和成本都要考虑峰值 + 平均 + 长尾三种口径

❓常见问题

自建 GPU 和用 API 怎么选？: 看盈亏平衡点：(月固定成本 ÷ 30 ÷ API单价) × 1M tokens/天。例：GPU+运维 ¥7,500/月、API 均价 ¥4/M → 平衡点约 6,250 万 tokens/天，低于它就老实用 API。
自建除了显性成本还有什么坑？: 扩容难（流量峰值要按峰值备机）、高峰排队伤体验、运维故障要人扛。自建省钱的前提是流量平稳、模型开源可跑、有运维人。
混合方案是什么？: 基线流量走自建（卡常年在跑），峰值溢出走 API 弹性接住——两边都不浪费，是多数团队的最优解。