เปรียบเทียบ LM Studio กับ Ollama บน Linux ด้วย RTX 3090
เริ่มตรงนี้
การทดสอบแบบ Docker บน RTX 3090 ตัวเดียวเปรียบเทียบ LM Studio และ Ollama ที่รันไฟล์ Qwen3.5 9B และ 27B GGUF ชุดเดียวกัน โดยตรวจสอบด้วย SHA-256 Ollama เร็วกว่าประมาณ 10% บนโมเดล 9B และเร็วกว่า 5% บน 27B สำหรับการสร้างคำขอเดี่ยว ขณะที่ LM Studio ทำได้ 90.2 โทเคน/วินาทีบนคำขอ 27B พร้อมกันสี่รายการ เทียบกับ 33.1 โทเคน/วินาทีของ Ollama การเปรียบเทียบนี้มีข้อควรระวัง แอปของ LM Studio เป็นซอฟต์แวร์ปิด และอิมเมจ Docker ของมัน lmstudio/llmster-preview ถูกระบุว่าเป็นตัวอย่างทางเทคนิค (technical preview) ซึ่งอธิบายว่ามี "การรองรับ CPU เท่านั้นบนระบบ x86" ผู้ทดสอบกล่าวว่าการใช้ GPU จึงต้องใช้ขั้นตอนที่ไม่ได้รับการสนับสนุน และ LM Studio ไม่สนับสนุนการตั้งค่านี้ ตั้งแต่เดือนกรกฎาคม 2025 LM Studio ใช้งานฟรีสำหรับการใช้ในบ้านและธุรกิจภายในองค์กรภายใต้ข้อกำหนดของมัน
สร้างจากรายงาน · อัปเดต 2 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AILM Studio กับ Ollama บน Linux: ไฟล์ Qwen3.5 GGUF เดียวกันถูกทดสอบบน RTX 3090
การทดสอบบน Docker ด้วย RTX 3090 ตัวเดียวเปรียบเทียบ LM Studio และ Ollama ที่รันไฟล์ Qwen3.5 9B และ 27B GGUF ชุดเดียวกัน โดยตรวจสอบด้วย SHA-256 Ollama เร็วกว่าประมาณ 10% บนโมเดล 9B และเร็วกว่า 5% บน 27B สำหรับการสร้างคำขอเดี่ยว ขณะที่ LM Studio ทำได้ 90.2 tokens/s เมื่อมีคำขอ 27B พร้อมกันสี่รายการ เทียบกับ 33.1 tokens/s ของ Ollama อิมเมจ Docker อย่างเป็นทางการของ LM Studio รองรับเฉพาะ CPU ดังนั้นการใช้ GPU ต้องใช้ขั้นตอนที่ไม่ได้รับการสนับสนุน
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม