使用 Sentence Transformers 对多向量嵌入模型进行池化感知训练

Hugging Face 展示了池化感知训练如何在固定存储预算下提升多向量嵌入模型的检索质量。在 pool_factor=4 时，常规训练的模型保留了其未池化 NanoBEIR nDCG@10 的 94.6%，同时将文档向量减少到四分之一，而池化感知训练将这一保留率提升至 97.8%。文章详细介绍了 HierarchicalTokenPooling、预算校准以及一个可复现的 Sentence Transformers 示例。