Hacker News · AI·· 21 ชม. ที่แล้วคะแนน AI36
Viper รันแชท AI บนอุปกรณ์บน Mac โดยไม่ต้อง fine-tuning ด้วย gpt-oss-20b
On-device AI: new knowledge without fine-tuning
สรุปโดย AI
AI Chat ของ Viper ทำงานทั้งหมดบน Mac โดยไม่ต้องใช้คลาวด์หรือบัญชีผู้ให้บริการ AI ใช้โมเดลเปิดที่ไม่มีการแก้ไข ห่อหุ้มด้วย harness ที่ป้อนคู่มือของ Viper เองให้กับโมเดล ในการทดสอบแบบ blind กับคำถาม Viper ใหม่ 167 ข้อ วิธี harness ทำได้ 61% ตอบถูกและ 4% สร้างคำตอบขึ้นมาเอง เทียบกับ 2% ตอบถูกและ 57% สร้างคำตอบขึ้นมาเองเมื่อใช้โมเดลเพียงอย่างเดียว Viper 1.5.34 ที่มาพร้อม gpt-oss-20b อยู่ในขั้นตอนตรวจสอบของ App Store แล้ว
แหล่งข่าว:Hacker News · AI · github.com