ไกด์อธิบายว่าการแทนที่การเรียก LLM ต้องใช้มากกว่าการจำแนกเจตนา
เริ่มตรงนี้
Seldon เผยแพร่ไกด์เชิงเทคนิคเกี่ยวกับการแทนที่การเรียก LLM ด้วยโมเดลการตัดสินใจ โดยโต้แย้งว่าหน่วยของการแทนที่ควรเป็นพฤติกรรมที่แอปพลิเคชันพึ่งพา ไม่ใช่ขั้นตอนการจำแนกเจตนาเพียงขั้นตอนเดียว ไกด์อ้างถึง Audiala ซึ่งเปลี่ยนเราเตอร์ LLM เป็นโมเดลการตัดสินใจแล้วย้อนกลับภายใน 23 นาที เพราะการเรียกเดิมยังจัดการเมือง การอ้างอิงในบทสนทนา และแฟล็กควบคุมเครื่องมือด้วย ไกด์อธิบายขั้นตอนการกู้คืนสัญญาของการเรียก การสร้างทางเลือก และการประเมินการแทนที่แบบครบถ้วน และแยกความแตกต่างระหว่างการจับคู่สคีมาผลลัพธ์ การเห็นพ้องกับระบบเดิม และการตอบสนองข้อกำหนดของแอปพลิเคชัน Seldon กล่าวว่าผลิตภัณฑ์ Functions ของตนเริ่มจากคำขอที่นักพัฒนาประกาศหรือเวิร์กโฟลว์สั้นที่รองรับ ค้นหาทางเลือกที่รองรับรวมถึงการเรียกโมเดลผสมกับการดำเนินการที่กำหนดไว้ล่วงหน้า และโฮสต์เวอร์ชันที่นักพัฒนาเลือกเปิดใช้งาน Seldon ระบุว่าการวัดของตนครอบคลุมเฉพาะฟังก์ชันที่มีขอบเขตนั้นเท่านั้น และแอปพลิเคชันโดยรอบยังต้องมีการตรวจสอบของตนเอง
สร้างจากรายงาน · อัปเดต 6 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIทำไมการแทนที่การเรียก LLM หนึ่งครั้งต้องใช้มากกว่าการจำแนกเจตนา
Audiala แทนที่เราเตอร์ LLM ด้วยโมเดลตัดสินใจและย้อนกลับภายใน 23 นาที เพราะการเรียกเดิมยังแก้ไขเมือง การอ้างอิงในบทสนทนา และแฟล็กควบคุมเครื่องมือ บทความโต้แย้งว่าหน่วยของการแทนที่ควรเป็นพฤติกรรมที่แอปพลิเคชันพึ่งพา และอธิบายการกู้คืนสัญญาของการเรียก การสร้างทางเลือก และการประเมินการแทนที่ที่สมบูรณ์ นอกจากนี้ยังแยกความแตกต่างระหว่างการจับคู่สคีมาผลลัพธ์ การเห็นพ้องกับระบบเดิม และการตอบสนองความต้องการของแอปพลิเคชัน
ความร้อนแรงของเหตุการณ์นี้
- ช่วงปัจจุบันที่เทียบได้
- 8
- จุดสูงสุดในช่วงที่เทียบได้
- 1019 พฤศจิกายน 22:00
- การเปลี่ยนแปลงใน 24 ชั่วโมง
- –
แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู