深入解析決策模型:Perplexity Decider v1.2 如何運作
本文剖析 Perplexity Decider v1.2,這是一個建構於 Qwen-3.8 27B 之上的開放決策模型,它將僅解碼器 LLM 轉換為非因果編碼器,並透過 255 選項讀出頭在單一預填充步驟中回答所有分類問題。內容涵蓋 /v1/decisions API 的 yes_no、choice 與 score 問題類型、在 tasksource 等協調資料集上以合成資料與選項洗牌進行訓練,以及在溫度 T=1.32 下的事後校準。作者主張決策模型相較於自迴歸 LLM 的主要優勢在於 token 效率,並指出 9B Decider Flash 變體是以蒸餾損失訓練。