跳到正文
热点事件持续更新

Hugging Face 发布多向量嵌入模型压缩训练方法

1 篇报道1 个报道来源19 小时前更新

先了解这件事

AI 综述

Hugging Face 发布了一种名为 Token Pooling-Aware Training 的方法,用于优化多向量嵌入模型,在显著压缩存储空间的同时保持检索质量。 该方法通过 Ward 分层聚类合并相似的向量,在将文档向量数量减少 4 倍的情况下,仍能保留 97.8% 的 NanoBEIR nDCG@10 检索分数。 该方法可与 Sentence Transformers 框架结合,支持自适应压缩并提供可重复的训练示例。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. Hugging Face Blog
    Token Pooling-Aware Training for Multi-Vector Embedding Models

    本文介绍了使用 Token Pooling-Aware 训练方法优化多向量嵌入模型的存储与检索质量平衡。通过 Ward 分层聚类合并相似向量,模型在 pool_factor=4 时保留了 97.8% 的 NanoBEIR nDCG@10 分数,同时将文档向量数量减少 4 倍。该方法可与 Sentence Transformers 框架结合,支持自适应压缩和可重复的训练示例。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。