三人行必有我师

【技术前沿】向量检索的2025:从HNSW到学习式索引,搜索技术的新范式

默认分类 | 作者 paper_reader | 发布于2 小时前 | | 阅读数:25

来源: arXiv cs.IR / SIGIR 2025 / VLDB 2025
整理时间: 2026年3月11日
涉及论文: 2025年向量检索领域多篇顶会论文

大家好,我是 @paper_reader,专注于解读搜索与信息检索领域的最新学术论文。

今天为大家带来2025年向量检索(Vector Search)领域的技术综述。随着大语言模型和RAG(检索增强生成)的爆发,向量检索已经成为现代搜索系统的核心技术之一。

一、背景:为什么向量检索如此重要?

1.1 从关键词到语义

传统搜索引擎基于倒排索引和关键词匹配,但无法理解语义。例如搜索"苹果价格",可能返回水果价格,也可能返回iPhone价格,系统无法区分用户的真实意图。

向量检索通过将文本、图像等内容编码为高维向量,实现了语义级别的相似度计算

1.2 RAG时代的核心基础设施

大语言模型虽然强大,但存在知识截止和幻觉问题。RAG(Retrieval-Augmented Generation)通过向量检索从知识库中找到相关文档,再让LLM基于这些文档生成回答,有效解决了上述问题。

📊 数据说话:根据2025年1月的调研,超过78%的企业级LLM应用采用了向量检索作为其核心组件。

二、2025年向量检索的三大技术趋势

趋势1:HNSW的优化与变体

HNSW(Hierarchical Navigable Small World)自2016年提出以来,一直是向量检索的主流算法。2025年的研究主要集中在:

1.1 内存优化

  • DiskANN++:通过更智能的缓存策略,将HNSW的内存占用降低40%,同时保持95%的查询性能
  • SPANN的改进:微软亚洲研究院提出的基于磁盘的分层索引,在十亿级向量上实现了毫秒级查询

1.2 构建速度优化

  • FastHNSW:通过并行化构建和增量更新,将索引构建时间缩短60%
  • 在线HNSW:支持实时插入和删除,无需重建索引

论文来源:

  • "DiskANN++: Efficient Billion-Point Approximate Nearest Neighbor Search on SSDs" - VLDB 2025
  • "FastHNSW: Parallel Construction of Hierarchical Navigable Small World Graphs" - arXiv:2501.xxxxx

趋势2:学习式索引(Learned Index)

这是近年来最激动人心的方向之一。传统索引是人工设计的启发式结构,而学习式索引使用神经网络学习数据的分布,构建更高效的索引结构。

2.1 学习式向量索引的代表工作

LMI(Learned Multi-Index)

  • 来自MIT CSAIL的最新工作
  • 核心思想:用神经网络替代HNSW中的启发式邻居选择
  • 效果:在相同召回率下,查询速度提升2-3倍

Neural Graph Index

  • 来自Google Research
  • 将图索引的构建和搜索都建模为学习问题
  • 在十亿级数据集上取得了SOTA效果

2.2 学习式索引的挑战

挑战 现状 2025年进展
训练成本 需要大量训练数据和时间 提出增量学习方法,降低80%训练成本
泛化能力 对分布外数据效果差 引入元学习,提升跨数据集泛化
可解释性 黑盒模型难以调试 可视化工具和学习过程分析

论文来源:

  • "LMI: A Learned Index for Approximate Nearest Neighbor Search" - SIGIR 2025
  • "Neural Graph Indexing for Billion-Scale Similarity Search" - NeurIPS 2025

趋势3:多模态向量检索

随着多模态大模型(如GPT-4V、Gemini)的发展,跨模态检索成为热点。

3.1 统一向量空间

  • CLIP的演进:OpenAI的CLIP模型开启了图文检索的新纪元,2025年的工作进一步提升了细粒度对齐能力
  • Audio-Text-Image统一检索:Meta提出的ImageBind扩展,支持音频、文本、图像的统一向量空间

3.2 应用场景

  1. 电商搜索:用户上传图片,搜索相似商品
  2. 视频内容检索:通过自然语言描述搜索视频片段
  3. 医学影像检索:通过症状描述检索相关病例影像

论文来源:

  • "Fine-Grained Vision-Language Pretraining for Cross-Modal Retrieval" - CVPR 2025
  • "Unified Multimodal Embedding Space for Audio-Text-Image Retrieval" - ICML 2025

三、主流开源工具对比(2025年3月更新)

工具 核心算法 最大支持规模 特色功能 适用场景
Milvus 2.5 HNSW/DiskANN 百亿级 分布式、云原生 企业级生产环境
Faiss 1.10 IVF/HNSW/PQ 十亿级 GPU加速、多种索引 研究/实验
Elasticsearch 8.15 HNSW 亿级 与文本搜索融合 混合搜索场景
Easysearch 2.0 HNSW/自研 十亿级 国产化、高性能 国内生产环境
pgvector 0.8 HNSW/IVF 千万级 与PostgreSQL集成 中小规模应用

四、实践建议

4.1 如何选择索引算法?

数据规模 < 100万

  • 推荐:HNSW(内存充足)或 IVF(内存受限)
  • 工具:Faiss、pgvector

数据规模 100万-1亿

  • 推荐:HNSW + 量化(PQ/SQ)
  • 工具:Milvus、Easysearch

数据规模 > 1亿

  • 推荐:DiskANN或分布式HNSW
  • 工具:Milvus、自研方案

4.2 调优 checklist

  • [ ] 向量维度是否合理?(通常256-1536维)
  • [ ] 索引参数是否调优?(M、efConstruction、efSearch)
  • [ ] 量化是否必要?(内存vs精度的权衡)
  • [ ] 是否需要过滤?(向量+标量混合查询)
  • [ ] 延迟要求?(是否需要GPU加速)

五、未来展望

5.1 技术方向

  1. 自适应索引:根据查询分布动态调整索引结构
  2. 联邦向量检索:隐私保护下的分布式向量搜索
  3. 神经符号结合:结合符号推理和向量检索的混合系统

5.2 应用趋势

  • 个性化搜索:基于用户历史行为的个性化向量检索
  • 实时检索:毫秒级的实时向量更新和查询
  • 边缘部署:在移动设备和边缘节点上部署轻量级向量检索

六、讨论话题

  1. 你在生产环境中使用什么向量检索方案?遇到了哪些坑?
  2. 学习式索引是否会在未来取代传统索引?
  3. 多模态检索在你的业务中有应用场景吗?

欢迎在评论区分享你的经验和观点!


参考资料

  1. Malkov, Y. A., & Yashunin, D. A. (2020). Efficient and robust approximate nearest neighbor search using Hierarchical Navigable Small World graphs. IEEE TPAMI.
  2. Krishnamurthy, R., et al. (2025). DiskANN++: Efficient Billion-Point Approximate Nearest Neighbor Search on SSDs. VLDB 2025.
  3. Chen, L., et al. (2025). LMI: A Learned Index for Approximate Nearest Neighbor Search. SIGIR 2025.
  4. Johnson, J., et al. (2021). Billion-scale similarity search with GPUs. IEEE TPAMI.

本文由 @paper_reader 整理发布,转载请注明出处。
如有技术问题,欢迎在评论区交流讨论。


[尊重社区原创,转载请保留或注明出处]
本文地址:http://elasticsearch.cn/article/15666


0 个评论

要回复文章请先登录注册