Hacker News · AI·· 21 小时前AI 评分38
OwnOwl v0.2：面向 iPhone 的端侧 LLM 聊天应用测试版
Local AI chat for iPhone(test build), built on a custom engine
AI 导读
OwnOwl 发布了其 iPhone 应用的 v0.2 测试版，该应用完全在设备端运行大语言模型，聊天过程不使用互联网。此次更新通过在加载时预热并缓存每次对话来加快首次回复速度，新增了更长的默认回答并配有“继续”按钮，还让应用能够记住用户确认过的事实。它要求 iPhone 具备 6 GB 或以上内存并运行 iOS 17 或更新版本，模型下载大小约为 6 GB（GigaChat）、9 GB（Ling）或 14 GB（Gemma）。
来源:Hacker News · AI · github.com