Token Pooling-Aware Training for Multi-Vector Embedding Models

本文介绍了使用 Token Pooling-Aware 训练方法优化多向量嵌入模型的存储与检索质量平衡。通过 Ward 分层聚类合并相似向量，模型在 pool_factor=4 时保留了 97.8% 的 NanoBEIR nDCG@10 分数，同时将文档向量数量减少 4 倍。该方法可与 Sentence Transformers 框架结合，支持自适应压缩和可重复的训练示例。