Tới nội dung
Hacker News · AI·· 21 giờ trướcĐiểm AI36

Viper chạy AI chat trên thiết bị trên Mac mà không cần tinh chỉnh, sử dụng gpt-oss-20b

On-device AI: new knowledge without fine-tuning

Tóm tắt bằng AI

AI Chat của Viper chạy hoàn toàn trên Mac mà không cần đám mây hay tài khoản nhà cung cấp AI, sử dụng một mô hình mở không thay đổi được bọc trong một harness cung cấp cho nó các hướng dẫn của chính Viper. Trong một bài kiểm tra mù với 167 câu hỏi mới về Viper, cách tiếp cận harness đạt 61% câu trả lời đúng và 4% câu trả lời bịa đặt, so với 2% đúng và 57% bịa đặt khi chỉ dùng mô hình. Viper 1.5.34, phát hành kèm gpt-oss-20b, hiện đang được xem xét trên App Store.

Nguồn:Hacker News · AI · github.com