jbarrow.ai 作者的技术深度解析解释了 Perplexity Decider v1.2 决策模型

jbarrow.ai 的作者发布了一篇技术深度解析，说明了 Perplexity Decider v1.2 的工作原理：这是一个基于 Qwen-3.8 27B 构建的开放决策模型，它把仅解码器 LLM 转换为非因果编码器，并通过一个 255 选项的读出头，在单次 prefill 步骤中回答所有分类问题。 该文介绍了 /v1/decisions API 的 yes_no、choice 和 score 问题类型，在 tasksource 等协调数据集上使用合成数据和选项打乱进行训练，以及在温度 T=1.32 下进行事后校准。作者认为，决策模型相对于自回归 LLM 的主要优势是 token 效率，并指出 9B Decider Flash 变体是使用蒸馏损失训练的。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。