Mubit และ Neon เปิดตัวเทมเพลตเอเจนต์ที่ลดการใช้โทเคนของโมเดล frontier

Mubit และ Neon เผยแพร่เทมเพลตสำหรับเอเจนต์นักวิเคราะห์ข้อมูลที่ส่งทุกการเรียกโมเดลผ่าน Mubit ไปยัง Neon AI Gateway โดยมีเป้าหมายเพื่อลดค่าใช้จ่ายโทเคนของโมเดล frontier ในการทดสอบ benchmark ของ Mubit บนคำถาม CL-bench จำนวน 20 ข้อ ที่รันข้อละสามครั้ง การตั้งค่านี้ลดโทเคนอินพุตของ gpt-5.5 ได้ 73% และตอบได้เร็วขึ้น 40% โดยมีความแม่นยำ 65% เทียบกับ 60% เมื่อใช้ gpt-5.5 เพียงอย่างเดียว กลไกคือ หลังจากโมเดลขนาดเล็กที่ปรับแต่งแล้วผ่านข้อสอบที่สร้างจากทราฟฟิกของงานนั้นเอง Mubit จะมอบหมายขั้นตอนroutine อย่างการแสดงรายการตารางและการเขียนคำตอบให้กับโมเดลนั้น ขณะที่ gpt-5.5 ยังคงเขียนทุกคิวรี SQL เอเจนต์นี้ทำงานบน Neon Functions และ Lakebase Postgres การใช้งานเทมเพลตนี้ต้องมีโปรเจกต์ Neon ที่มีเครดิตแบบเติมเงินล่วงหน้าของ AI Gateway ในภูมิภาคที่รองรับ Neon Functions และ AI Gateway ใช้ Node 24+ และ Neon CLI ที่ลงชื่อเข้าใช้แล้ว และมีโปรเจกต์ Mubit ที่มีคีย์ผู้ให้บริการเพียงคีย์เดียวคือคีย์ Neon AI Gateway ตัวเลข 73% และ 40% มาจาก benchmark ของ Mubit เอง ไม่ใช่การทดสอบอิสระ

สร้างจากรายงาน · อัปเดต 13 ชม. ที่แล้ว

ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม