一百万条切片:向量索引 1.4 GiB 还是 15.4 GiB,只差两个设置
向量索引靠估,灌完数据内存翻倍,因为没算 HNSW 连线和 payload;或者到建表时才发现 4096 维的模型存不进半精度列类型。
📜 目录
一百万条切片,一个索引,存储账单落在 0.5 GiB 到 15.4 GiB 之间,取决于第一天定下的三个数:向量维度、数字格式、图的连接度。这三个数没有一个是以后还能调的旋钮——动任何一个,索引就得重建。
下面所有数字都是拿 2026 年 11 月 23 日从模型仓库和数据库源码里读到的值算出来的。没有 benchmark,没有厂商页面,没有把估算包装成实测。
决定索引大小的三个数
维度由嵌入模型决定,改不了。数字格式是你选的:float32、float16、int8、binary。图的连接度是 HNSW 的 m,决定每个节点存多少条邻居引用。第四项是 id 和 payload,大家总是忘,直到索引比计划大了一半才发现。
向量是大头。一百万条切片的算式是 1000000 x 维度 x 每个数的字节数:1024 维在 float32 下 4 GiB,float16 下 2 GiB,int8 下 1 GiB。数据本身改变不了这条算式,能改的只有维度和格式。
六个模型的真实维度(按 config.json 读)
| 模型(Hugging Face,2026-11-23) | 维度 | 最大位置 | 百万切片的索引,float32 + m=16 |
|---|---|---|---|
| all-MiniLM-L6-v2 | 384 | 512 | 1.55 GiB |
| nomic-embed-text-v1.5 | 768 | 2048 | 2.98 GiB |
| bge-m3 | 1024 | 8194 | 3.93 GiB |
| multilingual-e5-large | 1024 | 514 | 3.93 GiB |
| jina-embeddings-v3 | 1024 | 8194 | 3.93 GiB |
| Qwen3-Embedding-8B | 4096 | 40960 | 15.38 GiB |
两个 1024 维的模型存储成本一样,行为完全不同:e5-large 到 514 个 token 就停,bge-m3 能到 8194。维度决定存储,上下文上限决定一条切片能装多少内容,这两件事经常被混成一件事。
一百万条切片的算式
| 维度 | float32 | float16 | int8 | binary |
|---|---|---|---|---|
| 384 | 1.43 GiB | 0.72 GiB | 0.36 GiB | 0.04 GiB |
| 768 | 2.86 GiB | 1.43 GiB | 0.72 GiB | 0.09 GiB |
| 1024 | 3.81 GiB | 1.91 GiB | 0.95 GiB | 0.12 GiB |
| 1536 | 5.72 GiB | 2.86 GiB | 1.43 GiB | 0.18 GiB |
| 3072 | 11.44 GiB | 5.72 GiB | 2.86 GiB | 0.36 GiB |
| 4096 | 15.26 GiB | 7.63 GiB | 3.81 GiB | 0.48 GiB |
省得最多的是格式这一项。4096 维的模型,float16 下 7.63 GiB,float32 下 15.26 GiB,int8 下 3.81 GiB。同样一百万条切片,这是 16 GiB 机器和 8 GiB 机器的差别。
HNSW 的连线不是免费的:m=16 时 0.12 GiB,m=64 时四倍
每个节点存一份邻居表。层零每个方向 m 个邻居,连线成本是 1000000 x 2 x m x 4 字节,每个邻居一个 32 位无符号 id。m=16 是 0.12 GiB,m=32 是 0.24 GiB,m=64 是 0.48 GiB,m=8 是 0.06 GiB。跟 3.81 GiB 的向量比不算大,但值得算,因为它只随 m 变,不随维度变——384 维的时候,m=16 的连线已经占索引的 8%。
id 和 payload 是没人做预算的那一项。每条 8 字节 id,一百万条是 8 MB;每条 128 字节 payload 是 0.12 GiB;每条 1 KB 的 JSON 是 0.95 GiB,会反超你的向量。元数据胖就把正文放到索引外,payload 里只留一个 key。
在真实数据库里哪条约束会卡住
pgvector 的 README(2026-11-23):HNSW 默认 m = 16, ef_construction = 64,halfvec 最多支持 4000 维。最后这个数不是注释,是硬约束:4096 维的模型存不进 halfvec(4096),要么用 float32,要么把向量截短。sparsevec 最多 1000 个非零元素,稠密向量直接用不了。
Qdrant 源码(2026-11-23):HnswConfig 默认 m: 16、ef_construct: 100。同一套算式,参数换个名字,数据灌进去之后再改,同样得重建。
十行算出自己那份
N = 1_000_000
dim = 1024
for fmt, b in (("f32", 4), ("f16", 2), ("int8", 1), ("binary", 0.125)):
vec = N * dim * b
links = N * 2 * 16 * 4 # m=16, 4-byte ids
print(fmt, round((vec + links) / 1024**3, 2), "GiB")
把 N 换成你的切片数,dim 换成模型维度,格式换成你愿意在召回率上付的那个,再加上每条 8 字节的 id 和 payload 估算。这个计算一分钟就完,它决定的是数据库装得下,还是周六出事故。
切片召回之后重新进提示词,是另一张账单:一个 token 的上下文在显存里值多少钱。每个问题的检索成本在RAG 成本实测;检索到底有没有变好,在Ragas 评测那篇;开箱就带了大半套的自建方案,在RAGFlow 容器笔记。
这套算式在哪里不成立
量化会改变召回率,本文不测改多少——那取决于模型和数据,没跑就给数字等于编。Matryoshka 模型(jina-embeddings-v3 列出 32 到 1024,Qwen3-Embedding 也支持截短)能砍维度,砍完对检索质量的影响是存储算式看不见的。放在磁盘上的索引拿延迟换内存,上面的字节数不变。还有,所有数字都假设只有一份:副本要乘,重建时和线上索引同时存在也要乘。
本站文章由编辑人工撰写,收录的工具均经过实测或公开资料核验。文中链接指向工具官网或 GitHub 仓库,仅作信息参考,不构成付费推广。