OpenRouter Announcements·· 2 天前AI 評分58
OpenRouter 以損益平衡負載計算比較自架 LLM 與 API 成本
Self-Hosted LLM vs API: When Does Self-Hosting Pay Off
AI 導讀
OpenRouter 發布一項損益平衡分析,說明自架開放權重 LLM 在何時比透過 API 呼叫更便宜,並採用截至 2026 年 10 月 8 日的各供應商價格。依這些價格,Qwen3.8 27B 在一張每小時 0.50 美元的租用 RTX 3090 上,於 6% 至 12% 負載時達到損益平衡;而 DeepSeek V4.1 Flash 在四張 H200 上,始終無法勝過最便宜的零資料保留端點。文章也指出,provider.zdr 以及歐盟與美國網域已能涵蓋多數隱私需求,無需自架,並建議在本機執行穩定的基礎負載,同時將尖峰流量送往 API。
來源:OpenRouter Announcements · openrouter.ai