Hacker News · AI·· 6 giờ trướcĐiểm AI22
Vì sao thay thế một lệnh gọi LLM cần nhiều hơn là phân loại ý định
LLM call is doing more than you think
Tóm tắt bằng AI
Audiala đã thay thế một bộ định tuyến LLM bằng một mô hình ra quyết định và hoàn tác chỉ 23 phút sau đó, vì lệnh gọi ban đầu còn giải quyết thành phố, tham chiếu hội thoại và cờ điều khiển công cụ. Bài viết lập luận rằng đơn vị thay thế nên là hành vi mà ứng dụng phụ thuộc vào, và đi qua việc khôi phục hợp đồng của một lệnh gọi, xây dựng các phương án thay thế, và đánh giá việc thay thế hoàn chỉnh. Bài viết cũng phân biệt giữa việc khớp lược đồ đầu ra, đồng ý với hệ thống hiện hữu, và đáp ứng các yêu cầu của ứng dụng.
Nguồn:Hacker News · AI · seldon-ai.com