Langfuse ra mắt AI Gateway, một gateway Rust mã nguồn mở theo dõi mọi lệnh gọi LLM

Langfuse đã phát hành AI Gateway, một dịch vụ Rust độc lập đóng vai trò proxy cho các đường dẫn API gốc của OpenAI và Anthropic dưới /openai/v1 và /anthropic/v1, đồng thời tải mỗi lệnh gọi đã hoàn tất lên Langfuse dưới dạng một generation qua OTLP. Gateway chuyển tiếp nguyên vẹn byte JSON và SSE của nhà cung cấp mà không viết lại, phân giải thông tin xác thực thông qua Langfuse Web, và hoạt động với Claude Code bằng cách trỏ ANTHROPIC_BASE_URL vào namespace /anthropic. Nó được phát hành dưới dạng image Docker đa nền tảng trên Docker Hub và ghcr.io, với việc ghi nhận giới hạn ở 5 MiB cho kiểm tra request và 1 MiB lưu giữ output cho mỗi lần thực thi.