OwnOwl phát hành bản thử nghiệm v0.2 của ứng dụng trò chuyện LLM trên thiết bị cho iPhone
Bắt đầu từ đây
OwnOwl đã phát hành bản thử nghiệm v0.2 của ứng dụng trò chuyện trên iPhone, chạy toàn bộ mô hình ngôn ngữ lớn ngay trên thiết bị, không sử dụng kết nối internet để trò chuyện. Bản cập nhật này tăng tốc câu trả lời đầu tiên bằng cách khởi động trước mô hình khi tải và lưu bộ nhớ đệm từng cuộc hội thoại, bổ sung câu trả lời mặc định dài hơn cùng nút Tiếp tục, và cho phép ứng dụng ghi nhớ những thông tin người dùng xác nhận. Bản dựng này là phiên bản thử nghiệm có thời hạn, chỉ dành cho mục đích đánh giá: nó ngừng hoạt động sau ngày hết hạn được tích hợp sẵn, và không dành cho mục đích thương mại hay phân phối lại. Ứng dụng yêu cầu iPhone có ít nhất 6 GB RAM và iOS 17 trở lên. Dung lượng tải mô hình khoảng 6 GB (GigaChat), 9 GB (Ling) hoặc 14 GB (Gemma).
Tạo từ các bài viết · cập nhật 13 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIOwnOwl v0.2: Ứng dụng trò chuyện LLM trên thiết bị cho bản thử nghiệm iPhone
OwnOwl đã phát hành bản thử nghiệm v0.2 của ứng dụng iPhone, chạy hoàn toàn mô hình ngôn ngữ lớn trên thiết bị, không sử dụng internet để trò chuyện. Bản cập nhật giúp tăng tốc phản hồi đầu tiên bằng cách khởi động trước khi tải và lưu bộ nhớ đệm mỗi cuộc trò chuyện, thêm câu trả lời mặc định dài hơn với nút Tiếp tục, và cho phép ứng dụng ghi nhớ các thông tin do người dùng xác nhận. Ứng dụng yêu cầu iPhone có RAM từ 6 GB trở lên và iOS 17 hoặc mới hơn, với dung lượng tải mô hình khoảng 6 GB (GigaChat), 9 GB (Ling) hoặc 14 GB (Gemma).
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.