一百万条切片:向量索引 1.4 GiB 还是 15.4 GiB,只差两个设置

📘 教程 2026-11-23 约 13 分钟阅读

向量索引靠估,灌完数据内存翻倍,因为没算 HNSW 连线和 payload;或者到建表时才发现 4096 维的模型存不进半精度列类型。

📜 目录

一百万条切片,一个索引,存储账单落在 0.5 GiB 到 15.4 GiB 之间,取决于第一天定下的三个数:向量维度、数字格式、图的连接度。这三个数没有一个是以后还能调的旋钮——动任何一个,索引就得重建。

下面所有数字都是拿 2026 年 11 月 23 日从模型仓库和数据库源码里读到的值算出来的。没有 benchmark,没有厂商页面,没有把估算包装成实测。

决定索引大小的三个数

维度由嵌入模型决定,改不了。数字格式是你选的:float32、float16、int8、binary。图的连接度是 HNSW 的 m,决定每个节点存多少条邻居引用。第四项是 id 和 payload,大家总是忘,直到索引比计划大了一半才发现。

向量是大头。一百万条切片的算式是 1000000 x 维度 x 每个数的字节数:1024 维在 float32 下 4 GiB,float16 下 2 GiB,int8 下 1 GiB。数据本身改变不了这条算式,能改的只有维度和格式。

六个模型的真实维度(按 config.json 读)

模型(Hugging Face,2026-11-23)维度最大位置百万切片的索引,float32 + m=16
all-MiniLM-L6-v23845121.55 GiB
nomic-embed-text-v1.576820482.98 GiB
bge-m3102481943.93 GiB
multilingual-e5-large10245143.93 GiB
jina-embeddings-v3102481943.93 GiB
Qwen3-Embedding-8B40964096015.38 GiB

两个 1024 维的模型存储成本一样,行为完全不同:e5-large 到 514 个 token 就停,bge-m3 能到 8194。维度决定存储,上下文上限决定一条切片能装多少内容,这两件事经常被混成一件事。

一百万条切片的算式

维度float32float16int8binary
3841.43 GiB0.72 GiB0.36 GiB0.04 GiB
7682.86 GiB1.43 GiB0.72 GiB0.09 GiB
10243.81 GiB1.91 GiB0.95 GiB0.12 GiB
15365.72 GiB2.86 GiB1.43 GiB0.18 GiB
307211.44 GiB5.72 GiB2.86 GiB0.36 GiB
409615.26 GiB7.63 GiB3.81 GiB0.48 GiB

省得最多的是格式这一项。4096 维的模型,float16 下 7.63 GiB,float32 下 15.26 GiB,int8 下 3.81 GiB。同样一百万条切片,这是 16 GiB 机器和 8 GiB 机器的差别。

HNSW 的连线不是免费的:m=16 时 0.12 GiB,m=64 时四倍

每个节点存一份邻居表。层零每个方向 m 个邻居,连线成本是 1000000 x 2 x m x 4 字节,每个邻居一个 32 位无符号 id。m=16 是 0.12 GiB,m=32 是 0.24 GiB,m=64 是 0.48 GiB,m=8 是 0.06 GiB。跟 3.81 GiB 的向量比不算大,但值得算,因为它只随 m 变,不随维度变——384 维的时候,m=16 的连线已经占索引的 8%。

id 和 payload 是没人做预算的那一项。每条 8 字节 id,一百万条是 8 MB;每条 128 字节 payload 是 0.12 GiB;每条 1 KB 的 JSON 是 0.95 GiB,会反超你的向量。元数据胖就把正文放到索引外,payload 里只留一个 key。

在真实数据库里哪条约束会卡住

pgvector 的 README(2026-11-23):HNSW 默认 m = 16, ef_construction = 64,halfvec 最多支持 4000 维。最后这个数不是注释,是硬约束:4096 维的模型存不进 halfvec(4096),要么用 float32,要么把向量截短。sparsevec 最多 1000 个非零元素,稠密向量直接用不了。

Qdrant 源码(2026-11-23):HnswConfig 默认 m: 16、ef_construct: 100。同一套算式,参数换个名字,数据灌进去之后再改,同样得重建。

十行算出自己那份

N = 1_000_000
dim = 1024
for fmt, b in (("f32", 4), ("f16", 2), ("int8", 1), ("binary", 0.125)):
    vec = N * dim * b
    links = N * 2 * 16 * 4          # m=16, 4-byte ids
    print(fmt, round((vec + links) / 1024**3, 2), "GiB")

把 N 换成你的切片数,dim 换成模型维度,格式换成你愿意在召回率上付的那个,再加上每条 8 字节的 id 和 payload 估算。这个计算一分钟就完,它决定的是数据库装得下,还是周六出事故。

切片召回之后重新进提示词,是另一张账单:一个 token 的上下文在显存里值多少钱。每个问题的检索成本在RAG 成本实测;检索到底有没有变好,在Ragas 评测那篇;开箱就带了大半套的自建方案,在RAGFlow 容器笔记。

这套算式在哪里不成立

量化会改变召回率,本文不测改多少——那取决于模型和数据,没跑就给数字等于编。Matryoshka 模型(jina-embeddings-v3 列出 32 到 1024,Qwen3-Embedding 也支持截短)能砍维度,砍完对检索质量的影响是存储算式看不见的。放在磁盘上的索引拿延迟换内存,上面的字节数不变。还有,所有数字都假设只有一份:副本要乘,重建时和线上索引同时存在也要乘。

延伸阅读 · 含推广链接

免费额度适合验证想法,不适合跑常驻任务。按量付费按实际用量结算,比包年更不容易浪费。

对比按量与包年 →

相关文章
2026-07-23
Azure机器学习管道完全指南2026:构建与部署
2026-08-13
Cursor Rules 示例 2026:Python、React、数据工程的 12 条真实规则
2026-08-01
Img2Img教程:AI图像转换完全指南
2026-07-19
AnythingLLM教程:一个界面接入所有AI模型
2026-07-19
OWASP发布LLM应用十大安全风险:提示注入与数据泄露成焦点
2026-08-10
AI画图2026:Stable Diffusion和ComfyUI入门

本站文章由编辑人工撰写,收录的工具均经过实测或公开资料核验。文中链接指向工具官网或 GitHub 仓库,仅作信息参考,不构成付费推广。

💬 评论 (0)

暂无评论,来说两句吧~

登录后评论