วิธี Benchmark LLMs: คู่มือการให้คะแนนด้วยโค้ดจาก OpenRouter

OpenRouter เผยแพร่คู่มือสำหรับการ benchmark LLMs ด้วยอินพุตของแอปพลิเคชันของคุณเอง ให้คะแนนเอาต์พุตด้วยโค้ด และเปรียบเทียบความแม่นยำ ค่าใช้จ่ายที่เรียกเก็บ และเวลาที่ใช้ในการร้องขอ บนงานสังเคราะห์ 60 งาน GPT-6.1 Sol ผ่าน 180/180 ครั้งจากการทำซ้ำสามรอบ ขณะที่ DeepSeek มีค่าใช้จ่ายในการตอบสนองต่ำที่สุดที่ 180 ครั้งผ่าน 157 ครั้ง ความสอดคล้องกับอันดับสาธารณะอยู่ในระดับต่ำ โดยมีสหสัมพันธ์สเปียร์แมนที่ 0.109