在 Linux 上用 RTX 3090 对 LM Studio 与 Ollama 进行基准测试

在单块 RTX 3090 上进行的基于 Docker 的测试对比了 LM Studio 与 Ollama 运行相同的 Qwen3.5 9B 和 27B GGUF 文件，并通过 SHA-256 校验。在单请求生成中，Ollama 在 9B 模型上约快 10%，在 27B 上快 5%；而在四个并发的 27B 请求下，LM Studio 达到 90.2 tokens/s，Ollama 为 33.1 tokens/s。 这一对比存在若干注意事项。LM Studio 的应用为闭源，其 Docker 镜像 lmstudio/llmster-preview 被标记为技术预览版，并注明“在 x86 系统上仅支持 CPU”；测试者表示，因此使用 GPU 需要不受支持的步骤，且 LM Studio 不支持这种配置。自 2025 年 7 月起，根据其条款，LM Studio 对家庭及内部商业用途免费。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。