跳到正文
Hacker News · AI·· 21 小时前AI 评分36

Viper 在 Mac 上运行端侧 AI 聊天,无需微调,使用 gpt-oss-20b

On-device AI: new knowledge without fine-tuning

AI 导读

Viper 的 AI Chat 完全在一台 Mac 上运行,无需云端或 AI 提供商账户,使用一个未经改动的开放模型,并套上一层 harness,向该模型输入 Viper 自己的指南。在对 167 个全新的 Viper 问题进行盲测时,这种 harness 方法达到 61% 的正确率和 4% 的编造答案率,而仅使用模型本身时为 2% 正确率和 57% 编造答案率。Viper 1.5.34 搭载 gpt-oss-20b,目前正在 App Store 审核中。

来源:Hacker News · AI · github.com