按 token 计价有害：为何自托管 LLM 推理应按请求计价

Modal 的一篇博客文章认为，从 OpenAI、Anthropic 和 Alphabet 等 API 提供商沿袭而来的“每 token 美元”定价方式，对运行自托管 LLM 推理的团队有实际危害。文章主张，应用用户关心的是请求而非 token，需要按请求的框架来推理延迟、副本数量和计算成本。