LM Studio vs. Ollama trên Linux: Cùng các tệp Qwen3.5 GGUF được đánh giá chuẩn trên RTX 3090

Một thử nghiệm dựa trên Docker trên một RTX 3090 đã so sánh LM Studio và Ollama khi chạy cùng các tệp Qwen3.5 9B và 27B GGUF, được xác minh bằng SHA-256. Ollama nhanh hơn khoảng 10% ở mô hình 9B và nhanh hơn 5% ở mô hình 27B đối với sinh một yêu cầu, trong khi LM Studio đạt 90,2 token/giây với bốn yêu cầu 27B đồng thời so với 33,1 token/giây của Ollama. Image Docker chính thức của LM Studio chỉ dùng CPU, nên việc dùng GPU đòi hỏi các bước không được hỗ trợ.