7B 是什么意思？

7B = 70 亿参数。存储上 FP16 每参数 2 字节 → 14GB；FP32 → 28GB；INT4 量化 → 3.5GB。量化是显存不够时最划算的解法。

量化会掉多少精度？

INT8 通常几乎无损；INT4 在多数对话场景损失可控，但数学/代码类任务可能有感知。先小样本评测再决定量化档位。

AI & COMPUTE · 开发者算账系列

🧮

参数量换算成 FP32/FP16/INT8/INT4 的磁盘和显存占用，量化能省多少一眼看清。

💡为什么要做这个工具

"7B 模型多大？""量化到 INT4 省多少？"——参数量乘以每参数字节数就是答案。工具一次给出四种精度的存储占用和训练显存。

默认值是典型配置（如 7B 模型、A100 单卡），按你的实际情况改。

改任何一个数，结论、明细、敏感性分析全部自动跟着变。

红黄绿结论卡告诉你够不够、贵不贵，行动清单告诉你下一步。

📏默认参数是典型档位（模型规模、卡型、单价），按你的实际配置改了再下结论

🪤云厂商价格与折扣变动快，以控制台实际报价为准，预留 20% 余量

🧮别只看峰值：显存和成本都要考虑峰值 + 平均 + 长尾三种口径

❓常见问题

7B 是什么意思？: 7B = 70 亿参数。存储上 FP16 每参数 2 字节 → 14GB；FP32 → 28GB；INT4 量化 → 3.5GB。量化是显存不够时最划算的解法。
量化会掉多少精度？: INT8 通常几乎无损；INT4 在多数对话场景损失可控，但数学/代码类任务可能有感知。先小样本评测再决定量化档位。