N14 / 40 · Binary Layout
粘贴 GGUF 文件名，拆出模型、参数量、Q4_K_M 量化等级 与分片编号，估算下载体积并生成可用命令。
按字节顺序排列的分区示意，宽度仅作结构说明，不代表真实占比。
GGUF v3 的 tensor_count 与 metadata_kv_count 为 uint64；对齐填充随文件配置的 alignment 而定，常见为 32 或 64 字节。
平均位宽为近似值，用于比较体积量级；点击一行可载入解析台示例。
每行一个文件名；同系列分片会合并检查序号是否连续、总数是否一致。
| 文件名 | 模型 | 参数量 | 量化 | 分片 | 估算体积 | 校验 |
|---|
围绕文件名、量化等级、文件结构与体积估算整理。
常见格式是「模型名-参数量-量化等级-分片编号.gguf」，例如 qwen2.5-7b-instruct-q4_k_m.gguf，其中 7b 是参数量、Q4_K_M 是量化等级。大文件会拆成 -00001-of-00003 这样的分片。把文件名粘进本页解析框，会拆出模型、参数量、量化、分片与估算体积；识别不出的字段会明确标注，不猜测。
量化等级用平均位宽（bpw）近似表示每个权重占多少位：Q8_0 约 8.5 bpw，Q4_K_M 约 4.8 bpw，体积接近减半，但精度损失更大。显存够就选高位宽，显存紧张再降到 Q4/Q3；本页色阶表列出常见标签的近似 bpw 与用途提示，实际大小以文件为准。
GGUF 是 llama.cpp 生态的单文件格式：开头 4 字节 magic「GGUF」，随后 version、tensor_count、metadata_kv_count（v3 为 uint64），接着是元数据键值对与张量信息表，按对齐要求填充后才是张量数据。元数据里带模型架构、上下文长度、分词器与量化信息，所以一个文件就能跑起来。
本页按「参数量 × 平均位宽 ÷ 8 × 1.04」估算下载体积（1.04 含元数据与对齐开销），运行内存再加上下文相关的 KV 缓存与运行时预留。这是理论估算，不含框架差异、显存碎片与 KV cache 量化；部署前请以文件实际大小与 nvidia-smi 实测为准。
GGUF 面向 llama.cpp 这类本地推理运行时，把权重、分词器与元数据打包成单文件，并按量化类型组织；PyTorch 的 .pt / .safetensors 主要用于训练与通用推理框架，通常按张量保存且不含运行时元数据。两者不能互换，需要按所用运行时选择对应文件；下载前请确认仓库里标注的格式。
