OpenRouter 發布修復 LLM API 429 速率限制錯誤的指南

OpenRouter 發布了一份指南，說明如何處理來自 OpenAI、Anthropic 及其自家 API 的 429 Too Many Requests 錯誤，並在一批 60 條提示上測試了三種修復方式。在其測試中，OpenAI Python SDK 的預設重試在 12 秒內讓 60 個請求中有 23 個失敗，而等待 Retry-After 或 X-RateLimit-Reset 的重試則在 Python 中以 89 至 92 秒、在 TypeScript 中以 106 至 218 秒完成了全部 60 個請求。模型回退在 13 秒內以 $0.000066 完成了全部 60 個請求，而在開啟供應商容錯移轉的情況下，全部 150 個指定供應商的請求都成功了，而在關閉回退時最多有 32 個失敗。 該指南自身的設定說明適用於 OpenRouter 帳戶：執行全部 60 條提示需要當天至少還剩 60 次免費模型請求，因為未購買 10 個額度的帳戶每天可獲得 50 次免費模型請求，之後為 1,000 次。每分鐘 20 次的上限僅適用於 :free 模型，而在 BYOK 情況下，使用你自己的供應商金鑰的請求會計入你在該供應商的限額。

AI 依報導生成 · 14 小時前更新

還沒有足夠的連續觀測資料，暫不繪製趨勢。