Tới nội dung
Hacker News · AI·· 19 giờ trướcĐiểm AI36

Chạy khối lượng công việc ML và AI phân tán với wasmCloud

Running distributed ML and AI workloads with wasmCloud (2025)

Tóm tắt bằng AI

Giám đốc công nghệ của Cosmonic, Bailey Hayes, phác thảo bốn cách để chạy suy luận AI trên WebAssembly với wasmCloud: wasi-nn, wasi-webgpu, biên dịch mô hình sang Wasm, và các giao diện và nhà cung cấp tùy chỉnh. Một thành phần phân tích hình ảnh demo sử dụng API Ollama để phân loại hình ảnh và chỉ có 292 kilobyte, nhỏ hơn nhiều so với một container truyền thống.

Nguồn:Hacker News · AI · wasmcloud.com