Hacker News · AI·· 57 นาทีที่แล้วคะแนน AI55
Langfuse เปิดตัว AI Gateway ประตูแบบโอเพนซอร์สที่เขียนด้วย Rust ซึ่งติดตามทุกการเรียก LLM
Show HN: Langfuse AI Gateway, open source rust gateway to trace every LLM call
สรุปโดย AI
Langfuse ได้เผยแพร่ AI Gateway ซึ่งเป็นบริการ Rust แบบสแตนด์อโลนที่ทำหน้าที่พร็อกซีเส้นทาง API ดั้งเดิมของ OpenAI และ Anthropic ภายใต้ /openai/v1 และ /anthropic/v1 และอัปโหลดทุกการเรียกที่เสร็จสมบูรณ์ไปยัง Langfuse ในรูปแบบ generation ผ่าน OTLP Gateway นี้ส่งต่อ JSON และไบต์ SSE ของผู้ให้บริการโดยไม่เขียนใหม่ จัดการข้อมูลรับรองผ่าน Langfuse Web และทำงานร่วมกับ Claude Code ได้โดยชี้ ANTHROPIC_BASE_URL ไปที่เนมสเปซ /anthropic โดยเผยแพร่เป็นอิมเมจ Docker แบบหลายแพลตฟอร์มบน Docker Hub และ ghcr.io โดยจำกัดการเก็บข้อมูลไว้ที่การตรวจสอบคำขอ 5 MiB และเอาต์พุตที่เก็บไว้ 1 MiB ต่อการทำงานหนึ่งครั้ง
แหล่งข่าว:Hacker News · AI · github.com