Hugging Face 解釋決策模型及其在 Transformers 與 llama.cpp 中的支援

Hugging Face 發布了一篇關於決策模型的說明文章，這類模型接收狀態與具型別的問題，並回傳預定義答案上的機率，而非生成文字。文章詳細介紹了 choice、score 與 noul 原語、信心公式，以及透過 Transformers 的 DecisionPipeline 與 AutoModelForDecision 提供的新支援、Transformers 與 llama.cpp 中共用的 /v1/systemone 端點、用於探索的 Hub 標籤，以及使用 Trainer API 進行微調。文章指出，同一個端點也能透過在批次前向傳遞中對答案 logits 評分，與相容的自迴歸 LLM 搭配運作。