Tới nội dung
Hacker News · AI·· 12 giờ trướcĐiểm AI48

navigator.models: API trình duyệt được đề xuất để chạy các mô hình mở cục bộ

A browser API for choosing and running local AI models

Tóm tắt bằng AI

Một đề xuất có tên navigator.models sẽ cho phép ứng dụng web yêu cầu một ID mô hình mở cụ thể và chạy nó trên thiết bị trong trình duyệt, không tự động chuyển sang mô hình khác. API này bao gồm generate(), stream() và embed(), và trình duyệt sẽ hỏi người dùng cấp hoặc thu hồi quyền truy cập theo từng trang web, từng mô hình, đồng thời chia sẻ trọng số giữa các trang web. Danh mục dùng chung, việc ngừng hỗ trợ mô hình và kiểm thử tương thích đa trình duyệt vẫn là những câu hỏi mở.

Nguồn:Hacker News · AI · webmodels.dev