Hacker News · AI·· 55 分钟前AI 评分55
Langfuse 发布 AI Gateway，一个可追踪每次 LLM 调用的开源 Rust 网关
Show HN: Langfuse AI Gateway, open source rust gateway to trace every LLM call
AI 导读
Langfuse 已发布 AI Gateway，这是一个独立的 Rust 服务，在 /openai/v1 和 /anthropic/v1 下代理原生 OpenAI 和 Anthropic API 路径，并通过 OTLP 将每次最终完成的调用作为 generation 上传到 Langfuse。该网关原样转发提供方的 JSON 和 SSE 字节，不做重写，通过 Langfuse Web 解析凭证，并可通过将 ANTHROPIC_BASE_URL 指向 /anthropic 命名空间来配合 Claude Code 使用。它以多平台 Docker 镜像形式发布在 Docker Hub 和 ghcr.io 上，捕获范围限制为每次执行 5 MiB 的请求检查和 1 MiB 的保留输出。
来源:Hacker News · AI · github.com