Tới nội dung
Sự việc nóngĐang diễn ra

Hướng dẫn lập luận rằng việc thay thế một lệnh gọi LLM đòi hỏi nhiều hơn phân loại ý định

1 bài viết1 nguồn đưa tinCập nhật 6 giờ trước

Bắt đầu từ đây

Tóm tắt AI

Seldon đã công bố một hướng dẫn kỹ thuật về việc thay thế một lệnh gọi LLM bằng một mô hình quyết định, lập luận rằng đơn vị thay thế nên là hành vi mà ứng dụng phụ thuộc vào chứ không phải một bước phân loại ý định đơn lẻ. Hướng dẫn dẫn chứng Audiala, đơn vị đã thay bộ định tuyến LLM bằng một mô hình quyết định và hoàn tác sau 23 phút vì lệnh gọi ban đầu còn xử lý thành phố, tham chiếu hội thoại và cờ điều khiển công cụ. Hướng dẫn đi qua việc khôi phục hợp đồng của một lệnh gọi, xây dựng các phương án thay thế và đánh giá việc thay thế hoàn chỉnh, đồng thời tách biệt giữa việc khớp lược đồ đầu ra, đồng thuận với hệ thống hiện hành và đáp ứng các yêu cầu của ứng dụng. Seldon cho biết sản phẩm Functions của họ bắt đầu từ một yêu cầu do nhà phát triển khai báo hoặc một quy trình ngắn được hỗ trợ, tìm kiếm các phương án thay thế được hỗ trợ bao gồm các lệnh gọi mô hình kết hợp với các thao tác tất định được định nghĩa trước, và lưu trữ bản sửa đổi mà nhà phát triển chọn kích hoạt. Seldon lưu ý rằng các phép đo của họ chỉ bao quát hàm bị giới hạn đó, và ứng dụng xung quanh vẫn cần được kiểm chứng riêng.

Tạo từ các bài viết · cập nhật 6 giờ trước

Dòng thời gian bài viết

Theo các bài viết để thấy sự việc từ nhiều phía.

19 tháng 11
  1. Hacker News · AI
    Vì sao thay thế một lệnh gọi LLM cần nhiều hơn là phân loại ý định

    Audiala đã thay thế một bộ định tuyến LLM bằng một mô hình ra quyết định và hoàn tác chỉ 23 phút sau đó, vì lệnh gọi ban đầu còn giải quyết thành phố, tham chiếu hội thoại và cờ điều khiển công cụ. Bài viết lập luận rằng đơn vị thay thế nên là hành vi mà ứng dụng phụ thuộc vào, và đi qua việc khôi phục hợp đồng của một lệnh gọi, xây dựng các phương án thay thế, và đánh giá việc thay thế hoàn chỉnh. Bài viết cũng phân biệt giữa việc khớp lược đồ đầu ra, đồng ý với hệ thống hiện hữu, và đáp ứng các yêu cầu của ứng dụng.

Độ nóng của sự việc này

Hiện tại, trong khoảng so sánh được
8
Đỉnh, trong khoảng so sánh được
1019 tháng 11 22:00
Thay đổi trong 24 giờ
–

Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.