Tới nội dung
Hacker News · AI·· 21 giờ trướcĐiểm AI38

OwnOwl v0.2: Ứng dụng trò chuyện LLM trên thiết bị cho bản thử nghiệm iPhone

Local AI chat for iPhone(test build), built on a custom engine

Tóm tắt bằng AI

OwnOwl đã phát hành bản thử nghiệm v0.2 của ứng dụng iPhone, chạy hoàn toàn mô hình ngôn ngữ lớn trên thiết bị, không sử dụng internet để trò chuyện. Bản cập nhật giúp tăng tốc phản hồi đầu tiên bằng cách khởi động trước khi tải và lưu bộ nhớ đệm mỗi cuộc trò chuyện, thêm câu trả lời mặc định dài hơn với nút Tiếp tục, và cho phép ứng dụng ghi nhớ các thông tin do người dùng xác nhận. Ứng dụng yêu cầu iPhone có RAM từ 6 GB trở lên và iOS 17 hoặc mới hơn, với dung lượng tải mô hình khoảng 6 GB (GigaChat), 9 GB (Ling) hoặc 14 GB (Gemma).

Nguồn:Hacker News · AI · github.com