Datasette-llm 0.1a11 bổ sung hỗ trợ endpoint tương thích OpenAI
Bắt đầu từ đây
Datasette-llm phiên bản 0.1a11, plugin trung gian dùng để cấu hình LLM cho các plugin Datasette, nay đã hỗ trợ endpoint tương thích OpenAI. Điều này cho phép Datasette sử dụng các mô hình được lưu trữ trên bất kỳ dịch vụ nào triển khai giao thức web OpenAI, bao gồm cả các mô hình cục bộ chạy qua LM Studio, Ollama hoặc llama.cpp, vốn mới đạt v1.0.0. Theo Simon Willison, những mô hình cục bộ đó giờ đây có thể vận hành một phiên bản Datasette Agent khởi chạy qua uvx. Thay đổi này mở rộng nguồn cung cấp mô hình cho các tính năng dựa trên LLM của Datasette, vượt ra ngoài các nhà cung cấp mà plugin từng hỗ trợ, đến các máy chủ tương thích OpenAI tự lưu trữ và của bên thứ ba.
Tạo từ các bài viết · cập nhật 1 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Simon WillisonDatasette-llm 0.1a11 bổ sung hỗ trợ endpoint tương thích OpenAI
Datasette-llm 0.1a11, plugin trung gian dùng để cấu hình LLM cho các plugin Datasette, nay đã hỗ trợ endpoint tương thích OpenAI, cho phép Datasette sử dụng các mô hình được lưu trữ ở bất kỳ đâu có hỗ trợ giao thức web giả chuẩn OpenAI. Các mô hình cục bộ chạy qua LM Studio, Ollama hoặc llama.cpp (vừa đạt v1.0.0) giờ đây có thể vận hành một phiên bản Datasette Agent được khởi chạy thông qua uvx.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.