OpenRouter công bố hướng dẫn khắc phục lỗi giới hạn tần suất 429 của API LLM
Bắt đầu từ đây
OpenRouter đã công bố một hướng dẫn về cách xử lý lỗi 429 Too Many Requests từ OpenAI, Anthropic và API của chính mình, thử nghiệm ba cách khắc phục trên một lô 60 prompt. Trong thử nghiệm của mình, cơ chế thử lại mặc định của OpenAI Python SDK khiến 23 trong số 60 yêu cầu thất bại trong 12 giây, trong khi cách thử lại chờ Retry-After hoặc X-RateLimit-Reset hoàn thành cả 60 yêu cầu trong 89 đến 92 giây với Python và 106 đến 218 giây với TypeScript. Cơ chế dự phòng mô hình hoàn thành cả 60 yêu cầu trong 13 giây với chi phí $0.000066, và khi bật chuyển đổi dự phòng nhà cung cấp, cả 150 yêu cầu ghim nhà cung cấp đều thành công, trong khi có tới 32 yêu cầu thất bại khi tắt dự phòng. Các ghi chú thiết lập riêng của hướng dẫn áp dụng cho tài khoản OpenRouter: chạy cả 60 prompt cần còn ít nhất 60 yêu cầu mô hình miễn phí trong ngày, vì tài khoản chưa mua 10 credit được 50 yêu cầu mô hình miễn phí mỗi ngày và 1.000 sau đó. Giới hạn 20 yêu cầu mỗi phút chỉ áp dụng cho các mô hình :free, và với BYOK, các yêu cầu dùng khóa nhà cung cấp của riêng bạn sẽ tính vào hạn mức của bạn tại nhà cung cấp đó.
Tạo từ các bài viết · cập nhật 13 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- OpenRouter AnnouncementsHướng dẫn OpenRouter: khắc phục lỗi giới hạn tần suất 429 của OpenAI và Claude
OpenRouter đã công bố hướng dẫn xử lý lỗi 429 Too Many Requests từ OpenAI, Anthropic và API của chính họ, thử nghiệm ba cách khắc phục trên một lô 60 prompt. Cơ chế thử lại mặc định của OpenAI Python SDK khiến 23 trong 60 yêu cầu thất bại trong 12 giây, trong khi cách thử lại chờ Retry-After hoặc X-RateLimit-Reset hoàn thành cả 60 yêu cầu trong 89 đến 92 giây với Python và 106 đến 218 giây với TypeScript. Cơ chế dự phòng theo mô hình hoàn thành cả 60 yêu cầu trong 13 giây với chi phí $0.000066, và khi bật chuyển đổi dự phòng nhà cung cấp, cả 150 yêu cầu ghim nhà cung cấp đều thành công, trong khi có tới 32 yêu cầu thất bại khi tắt dự phòng.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.