Inference Gateway Desktop ra mắt với tư cách ứng dụng khách AI agent không phụ thuộc nhà cung cấp
Inference Gateway Desktop, an AI client for any model provider
Inference Gateway Desktop là ứng dụng desktop gốc dành cho AI agent, hoạt động với mọi nhà cung cấp mô hình khi dùng API key của riêng bạn, bao gồm OpenAI, Anthropic, Google, mô hình Ollama cục bộ và mọi endpoint tương thích OpenAI. Agent chạy trong thư mục dự án được chọn với các công cụ tệp được sandbox trong đó, hoặc trên workspace Kubernetes có thể xem và tiếp quản màn hình, với các công tắc theo từng workspace cho computer use, browser use, ghi âm và chuyển văn bản thành giọng nói. Các bản phát hành chưa được ký, nên lần khởi chạy đầu tiên cần thêm một lần nhấp xác nhận, và ở lần chạy đầu tiên ứng dụng tải infer CLI và gateway vào ~/.infer/.
Nguồn:Hacker News · AI · github.com