个人技术分享

业务需求

• 提升向量搜索准确程度

搜索的准确程度一直都是很重要的话题。无论是由于广泛的生产应用，还是 RAG 应用中对于相关性要求更高，向量数据库都在努力朝着更高的搜索质量发展。在这个过程中不断有新的技术涌现，比如为了解决 chunk 过大导致信息丢失的 ColBERT，还有解决域外信息检索的 Sparse。下图为 BGE 的 M3-Embedding 模型的评估结果，它能支持同时输出 Sparse、Dense 和 ColBERT 三种向量，表里为使用他们做 hybrid search 的搜索质量的对比结果。

对于向量数据库来说，如何利用这些技术做混合搜索来提高检索质量也是重要的发展方向。

• ColBERT

ColBERT 是一个检索模型，为了解决传统双塔模型大 chunk 导致的信息丢失问题，同时规避了常规检索模型全连接导致的搜索效率问题，ColBert 提出基于 token 向量的迟交互模式。ColBERTv2 中还引入了向量检索来加速最后的迟交互模式。