Viper mang AI trò chuyện trên thiết bị đến Mac với một harness dựa trên hướng dẫn
Bắt đầu từ đây
Viper đã xây dựng một tính năng AI trò chuyện trên thiết bị cho ứng dụng nhắn tin Mac của mình, chạy hoàn toàn cục bộ, không cần dịch vụ đám mây hay tài khoản nhà cung cấp AI, bằng cách bọc một mô hình mở không thay đổi (gpt-oss-20b) trong một harness cung cấp cho nó các hướng dẫn của chính Viper. Trong một bài kiểm tra mù với 167 câu hỏi Viper mới, Viper cho biết harness đạt 61% câu trả lời đúng và 4% câu trả lời bịa đặt, so với 2% đúng và 57% bịa đặt khi chỉ dùng mô hình. Tính năng này yêu cầu Mac dùng chip Apple silicon và 24 GB bộ nhớ. Phiên bản 1.5.34, đi kèm gpt-oss-20b, đang được App Store xem xét. Viper cho biết iPhone chưa thể chạy tính năng này, vì các mẫu iPhone lớn nhất chỉ có tổng cộng 12 GB, ít hơn mức mà riêng mô hình cần.
Tạo từ các bài viết · cập nhật 20 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIViper chạy AI chat trên thiết bị trên Mac mà không cần tinh chỉnh, sử dụng gpt-oss-20b
AI Chat của Viper chạy hoàn toàn trên Mac mà không cần đám mây hay tài khoản nhà cung cấp AI, sử dụng một mô hình mở không thay đổi được bọc trong một harness cung cấp cho nó các hướng dẫn của chính Viper. Trong một bài kiểm tra mù với 167 câu hỏi mới về Viper, cách tiếp cận harness đạt 61% câu trả lời đúng và 4% câu trả lời bịa đặt, so với 2% đúng và 57% bịa đặt khi chỉ dùng mô hình. Viper 1.5.34, phát hành kèm gpt-oss-20b, hiện đang được xem xét trên App Store.
Độ nóng của sự việc này
- Hiện tại, trong khoảng so sánh được
- 6
- Đỉnh, trong khoảng so sánh được
- 1019 tháng 11 07:00
- Thay đổi trong 24 giờ
- –
Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.