Hacker News · AI·· 6 ชม. ที่แล้วคะแนน AI22
ทำไมการแทนที่การเรียก LLM หนึ่งครั้งต้องใช้มากกว่าการจำแนกเจตนา
LLM call is doing more than you think
สรุปโดย AI
Audiala แทนที่เราเตอร์ LLM ด้วยโมเดลตัดสินใจและย้อนกลับภายใน 23 นาที เพราะการเรียกเดิมยังแก้ไขเมือง การอ้างอิงในบทสนทนา และแฟล็กควบคุมเครื่องมือ บทความโต้แย้งว่าหน่วยของการแทนที่ควรเป็นพฤติกรรมที่แอปพลิเคชันพึ่งพา และอธิบายการกู้คืนสัญญาของการเรียก การสร้างทางเลือก และการประเมินการแทนที่ที่สมบูรณ์ นอกจากนี้ยังแยกความแตกต่างระหว่างการจับคู่สคีมาผลลัพธ์ การเห็นพ้องกับระบบเดิม และการตอบสนองความต้องการของแอปพลิเคชัน
แหล่งข่าว:Hacker News · AI · seldon-ai.com