ข้ามไปที่เนื้อหา
Hacker News · AI·· 6 ชม. ที่แล้วคะแนน AI22

ทำไมการแทนที่การเรียก LLM หนึ่งครั้งต้องใช้มากกว่าการจำแนกเจตนา

LLM call is doing more than you think

สรุปโดย AI

Audiala แทนที่เราเตอร์ LLM ด้วยโมเดลตัดสินใจและย้อนกลับภายใน 23 นาที เพราะการเรียกเดิมยังแก้ไขเมือง การอ้างอิงในบทสนทนา และแฟล็กควบคุมเครื่องมือ บทความโต้แย้งว่าหน่วยของการแทนที่ควรเป็นพฤติกรรมที่แอปพลิเคชันพึ่งพา และอธิบายการกู้คืนสัญญาของการเรียก การสร้างทางเลือก และการประเมินการแทนที่ที่สมบูรณ์ นอกจากนี้ยังแยกความแตกต่างระหว่างการจับคู่สคีมาผลลัพธ์ การเห็นพ้องกับระบบเดิม และการตอบสนองความต้องการของแอปพลิเคชัน

แหล่งข่าว:Hacker News · AI · seldon-ai.com