Hacker News · AI·· 21 小時前AI 評分38
OwnOwl v0.2:iPhone 測試版裝置端 LLM 聊天應用程式
Local AI chat for iPhone(test build), built on a custom engine
AI 導讀
OwnOwl 發布了 iPhone 應用程式的 v0.2 測試版,該應用程式完全在裝置端執行大型語言模型,聊天過程不使用網際網路。此次更新透過載入時預熱與快取每個對話來加快首次回覆速度,新增附有「繼續」按鈕的較長預設回答,並讓應用程式記住使用者確認的事實。它需要搭載 6 GB 或以上 RAM 且執行 iOS 17 或更新版本的 iPhone,模型下載大小約為 6 GB(GigaChat)、9 GB(Ling)或 14 GB(Gemma)。
來源:Hacker News · AI · github.com