深入解析决策模型:Perplexity Decider v1.2 如何工作
本文剖析了 Perplexity Decider v1.2——一个基于 Qwen-3.8 27B 构建的开放决策模型,它将仅解码器 LLM 转换为非因果编码器,并通过一个 255 选项的读出头部在单次预填充步骤中回答所有分类问题。文章涵盖 /v1/decisions API 的 yes_no、choice 和 score 问题类型,在 tasksource 等协调数据集上使用合成数据和选项打乱进行训练,以及在温度 T=1.32 下的后验校准。作者认为决策模型相对于自回归 LLM 的主要优势在于 token 效率,并指出 9B Decider Flash 变体使用蒸馏损失进行训练。