OpenRouter 发布指南，介绍如何修复 LLM API 429 速率限制错误

OpenRouter 发布了一份指南，介绍如何处理来自 OpenAI、Anthropic 及自家 API 的 429 Too Many Requests 错误，并在 60 条提示词的批次上测试了三种修复方案。在测试中，OpenAI Python SDK 的默认重试导致 60 个请求中有 23 个在 12 秒内失败；而等待 Retry-After 或 X-RateLimit-Reset 的重试方案在 Python 中于 89 至 92 秒内完成全部 60 个请求，在 TypeScript 中则需 106 至 218 秒。模型回退方案在 13 秒内以 $0.000066 完成全部 60 个请求；开启提供商故障转移后，全部 150 个固定提供商请求均成功，而关闭回退时最多有 32 个失败。 该指南自身的设置说明适用于 OpenRouter 账户：运行全部 60 条提示词需要当天至少剩余 60 次免费模型请求，因为未购买 10 个积分的账户每天可获得 50 次免费模型请求，之后为 1,000 次。每分钟 20 次的限制仅适用于 :free 模型；使用 BYOK 时，使用自有提供商密钥的请求会计入该提供商处的限额。

AI 根据报道生成 · 14 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。