Đánh giá hiệu năng LM Studio và Ollama trên Linux với RTX 3090
Bắt đầu từ đây
Một bài kiểm tra dựa trên Docker trên một RTX 3090 duy nhất đã so sánh LM Studio và Ollama khi chạy cùng các tệp GGUF Qwen3.5 9B và 27B, được xác minh bằng SHA-256. Ollama nhanh hơn khoảng 10% ở mô hình 9B và 5% ở mô hình 27B đối với sinh một yêu cầu, trong khi LM Studio đạt 90,2 token/giây với bốn yêu cầu 27B đồng thời so với 33,1 token/giây của Ollama. So sánh này đi kèm một số lưu ý. Ứng dụng của LM Studio là mã nguồn đóng, và image Docker của nó, lmstudio/llmster-preview, được đánh dấu là bản xem trước kỹ thuật với mô tả "chỉ hỗ trợ CPU trên hệ thống x86"; người thử nghiệm cho biết do đó việc dùng GPU đòi hỏi các bước không được hỗ trợ và LM Studio không hỗ trợ thiết lập này. Từ tháng 7 năm 2025, LM Studio miễn phí cho mục đích sử dụng tại nhà và nội bộ doanh nghiệp theo các điều khoản của nó.
Tạo từ các bài viết · cập nhật 2 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AILM Studio vs. Ollama trên Linux: Cùng các tệp Qwen3.5 GGUF được đánh giá chuẩn trên RTX 3090
Một thử nghiệm dựa trên Docker trên một RTX 3090 đã so sánh LM Studio và Ollama khi chạy cùng các tệp Qwen3.5 9B và 27B GGUF, được xác minh bằng SHA-256. Ollama nhanh hơn khoảng 10% ở mô hình 9B và nhanh hơn 5% ở mô hình 27B đối với sinh một yêu cầu, trong khi LM Studio đạt 90,2 token/giây với bốn yêu cầu 27B đồng thời so với 33,1 token/giây của Ollama. Image Docker chính thức của LM Studio chỉ dùng CPU, nên việc dùng GPU đòi hỏi các bước không được hỗ trợ.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.