เจาะลึกโมเดลการตัดสินใจ: Perplexity Decider v1.2 ทำงานอย่างไร

โพสต์นี้วิเคราะห์ Perplexity Decider v1.2 ซึ่งเป็นโมเดลการตัดสินใจแบบเปิดที่สร้างบน Qwen-3.8 27B โดยแปลง LLM แบบ decoder-only ให้เป็น encoder แบบ non-causal และตอบคำถามการจำแนกประเภททั้งหมดในขั้นตอน prefill เดียวผ่าน readout head ที่มี 255 ตัวเลือก ครอบคลุมประเภทคำถาม yes_no, choice และ score ของ API /v1/decisions การฝึกบนชุดข้อมูลที่ปรับให้สอดคล้องกัน เช่น tasksource พร้อมข้อมูลสังเคราะห์และการสลับตัวเลือก และการปรับเทียบภายหลังที่อุณหภูมิ T=1.32 ผู้เขียนโต้แย้งว่าเหตุผลหลักที่โมเดลการตัดสินใจเหนือกว่า LLM แบบ autoregressive คือประสิทธิภาพของโทเค็น และระบุว่า Decider Flash รุ่น 9B ถูกฝึกด้วย distillation loss