深入解析決策模型：Perplexity Decider v1.2 如何運作

本文剖析 Perplexity Decider v1.2，這是一個建構於 Qwen-3.8 27B 之上的開放決策模型，它將僅解碼器 LLM 轉換為非因果編碼器，並透過 255 選項讀出頭在單一預填充步驟中回答所有分類問題。內容涵蓋 /v1/decisions API 的 yes_no、choice 與 score 問題類型、在 tasksource 等協調資料集上以合成資料與選項洗牌進行訓練，以及在溫度 T=1.32 下的事後校準。作者主張決策模型相較於自迴歸 LLM 的主要優勢在於 token 效率，並指出 9B Decider Flash 變體是以蒸餾損失訓練。