Hacker News · AI·· 21 giờ trướcĐiểm AI36
Viper chạy AI chat trên thiết bị trên Mac mà không cần tinh chỉnh, sử dụng gpt-oss-20b
On-device AI: new knowledge without fine-tuning
Tóm tắt bằng AI
AI Chat của Viper chạy hoàn toàn trên Mac mà không cần đám mây hay tài khoản nhà cung cấp AI, sử dụng một mô hình mở không thay đổi được bọc trong một harness cung cấp cho nó các hướng dẫn của chính Viper. Trong một bài kiểm tra mù với 167 câu hỏi mới về Viper, cách tiếp cận harness đạt 61% câu trả lời đúng và 4% câu trả lời bịa đặt, so với 2% đúng và 57% bịa đặt khi chỉ dùng mô hình. Viper 1.5.34, phát hành kèm gpt-oss-20b, hiện đang được xem xét trên App Store.
Nguồn:Hacker News · AI · github.com