跳至正文
熱點事件觀察中

池化感知訓練提升多向量嵌入檢索

1 篇報導1 個報導來源3 天前更新

先了解這件事

AI 綜述

Hugging Face 發布了一種訓練多向量嵌入模型的方法,讓文件向量在為了節省儲存而進行池化時,仍能保留更多檢索品質。在其示例中,一個正常訓練、pool_factor=4 的模型保留了其未池化 NanoBEIR nDCG@10 分數的 94.6%,同時將文件向量減少為四分之一;池化感知訓練則將該保留率提升至 97.8%。 該文章介紹了 HierarchicalTokenPooling、如何校準池化預算,以及一個可重現的 Sentence Transformers 示例。這些數字來自 Hugging Face 自身的示範,而非獨立基準測試。

AI 依報導生成 · 23 小時前更新

報導時間線

沿著報導,了解事件的不同側面。

11月11日
  1. Hugging Face Blog
    Pooling-Aware Training for Multi-Vector Embedding Models with Sentence Transformers

    Hugging Face 展示 pooling-aware 訓練如何在固定儲存預算下提升多向量嵌入模型的檢索品質。當 pool_factor=4 時,一般訓練的模型保留其未池化 NanoBEIR nDCG@10 的 94.6%,同時將文件向量減少 4 倍,而 pooling-aware 訓練則將該保留率提升至 97.8%。文章逐步說明 HierarchicalTokenPooling、預算校準,以及一個可重現的 Sentence Transformers 範例。

本事件熱度走勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。