OpenRouter Announcements·· 2 天前AI 评分58
OpenRouter 通过盈亏平衡负载计算比较自托管 LLM 与 API 成本
Self-Hosted LLM vs API: When Does Self-Hosting Pay Off
AI 导读
OpenRouter 发布了一项盈亏平衡分析,展示了在什么情况下自托管开放权重 LLM 的成本低于通过 API 调用,分析采用截至 2026 年 10 月 8 日的各提供商价格。按这些价格,在一台每小时 0.50 美元租用的 RTX 3090 上运行 Qwen3.8 27B,在 6% 至 12% 负载时达到盈亏平衡;而在四块 H200 上运行 DeepSeek V4.1 Flash,则始终无法胜过最便宜的零数据保留端点。文章还指出,provider.zdr 以及欧盟和美国域名已能满足大多数隐私需求,无需自托管,并建议在本地运行稳定的基础负载,同时将峰值发送到 API。
来源:OpenRouter Announcements · openrouter.ai