在构建企业私域大模型知识库(RAG)的过程中,向量数据库是承载海量高维 Embedding 检索的底座枢纽。当企业知识库文档量达到数十万篇、切片达到数百万时,单机向量引擎极易出现内存溢出(OOM)与检索延迟骤升。纳海川团队梳理了 Milvus 集群在高安全环境下的工程实践。
一、向量索引选型:HNSW vs IVF_FLAT
索引决定了召回率(Recall)与响应耗时的权衡:
- HNSW(分层可导航小世界图):构建分层图拓扑结构,检索速度极快,召回率高达 98% 以上,适合绝大多数对延迟敏感的问答场景;
- IVF_FLAT(倒排文件平铺):内存开销更小、建索引极快,适合数据频繁大批量增量导入的动态知识库。
二、读写分离与协调节点扩容
将 Milvus 内部组件清晰划分为无状态的 Proxy 接入层、QueryNode 检索节点以及负责写入建索引的 IndexNode。即使后台正在批量向量化数千页新规章,前台用户在线提问检索依然丝毫不受影响。
三、纯内网本地化部署安全基线
所有节点通过私有 Docker Compose 编排于物理内网专网段,底层对象存储采用私有化 MinIO,元数据通过本地 etcd 集群一致性同步,完全脱离公网依赖。
生产实测:在 200 万向量(1024 维度)数据集上,Top-10 语义召回耗时稳定在 18ms 以内,满足大并发实时智能问答的高性能要求。