Langfuse releases open-source Rust AI Gateway for LLM tracing
เนื้อหานี้ยังไม่มีในภาษาของคุณ จึงแสดงเป็นEnglish
เริ่มตรงนี้
Langfuse has released AI Gateway, a standalone open-source Rust service that proxies native OpenAI and Anthropic API paths under /openai/v1 and /anthropic/v1 and uploads each finalized call to Langfuse as a generation over OTLP. The gateway relays provider JSON and SSE bytes without rewriting them, resolves credentials through Langfuse Web, and can be used with Claude Code by pointing ANTHROPIC_BASE_URL at the /anthropic namespace. Inference requires a configured Web URL and shared service key; without a Web URL the process starts with only liveness available, while readiness and inference return 503. Building and testing need no real Web, database or provider credentials, and the gateway loads the root .env and listens on the first available port starting at 8080. It ships as a multi-platform Docker image on Docker Hub and ghcr.io. Capture is limited to 5 MiB of request inspection and 1 MiB of retained output per execution.
สร้างจากรายงาน · อัปเดต 11 นาทีที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AILangfuse เปิดตัว AI Gateway ประตูแบบโอเพนซอร์สที่เขียนด้วย Rust ซึ่งติดตามทุกการเรียก LLM
Langfuse ได้เผยแพร่ AI Gateway ซึ่งเป็นบริการ Rust แบบสแตนด์อโลนที่ทำหน้าที่พร็อกซีเส้นทาง API ดั้งเดิมของ OpenAI และ Anthropic ภายใต้ /openai/v1 และ /anthropic/v1 และอัปโหลดทุกการเรียกที่เสร็จสมบูรณ์ไปยัง Langfuse ในรูปแบบ generation ผ่าน OTLP Gateway นี้ส่งต่อ JSON และไบต์ SSE ของผู้ให้บริการโดยไม่เขียนใหม่ จัดการข้อมูลรับรองผ่าน Langfuse Web และทำงานร่วมกับ Claude Code ได้โดยชี้ ANTHROPIC_BASE_URL ไปที่เนมสเปซ /anthropic โดยเผยแพร่เป็นอิมเมจ Docker แบบหลายแพลตฟอร์มบน Docker Hub และ ghcr.io โดยจำกัดการเก็บข้อมูลไว้ที่การตรวจสอบคำขอ 5 MiB และเอาต์พุตที่เก็บไว้ 1 MiB ต่อการทำงานหนึ่งครั้ง
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม