Hacker News · AI·· 19 ชม. ที่แล้วคะแนน AI38
OwnOwl v0.2: แอปแชท LLM บนอุปกรณ์สำหรับ iPhone เวอร์ชันทดสอบ
Local AI chat for iPhone(test build), built on a custom engine
สรุปโดย AI
OwnOwl เปิดตัวเวอร์ชันทดสอบ v0.2 ของแอป iPhone ที่รันโมเดลภาษาขนาดใหญ่บนอุปกรณ์ทั้งหมด โดยไม่ใช้อินเทอร์เน็ตในการแชท การอัปเดตนี้เร่งการตอบกลับครั้งแรกด้วยการวอร์มอัปตอนโหลดและแคชแต่ละบทสนทนา เพิ่มคำตอบเริ่มต้นที่ยาวขึ้นพร้อมปุ่ม Continue และให้แอปจดจำข้อเท็จจริงที่ผู้ใช้ยืนยันแล้ว ต้องใช้ iPhone ที่มี RAM 6 GB ขึ้นไปและ iOS 17 หรือใหม่กว่า โดยไฟล์ดาวน์โหลดโมเดลมีขนาดประมาณ 6 GB (GigaChat), 9 GB (Ling) หรือ 14 GB (Gemma)
แหล่งข่าว:Hacker News · AI · github.com