LM Studio กับ Ollama บน Linux: ไฟล์ Qwen3.5 GGUF เดียวกันถูกทดสอบบน RTX 3090

การทดสอบบน Docker ด้วย RTX 3090 ตัวเดียวเปรียบเทียบ LM Studio และ Ollama ที่รันไฟล์ Qwen3.5 9B และ 27B GGUF ชุดเดียวกัน โดยตรวจสอบด้วย SHA-256 Ollama เร็วกว่าประมาณ 10% บนโมเดล 9B และเร็วกว่า 5% บน 27B สำหรับการสร้างคำขอเดี่ยว ขณะที่ LM Studio ทำได้ 90.2 tokens/s เมื่อมีคำขอ 27B พร้อมกันสี่รายการ เทียบกับ 33.1 tokens/s ของ Ollama อิมเมจ Docker อย่างเป็นทางการของ LM Studio รองรับเฉพาะ CPU ดังนั้นการใช้ GPU ต้องใช้ขั้นตอนที่ไม่ได้รับการสนับสนุน