Langfuse 发布开源 Rust AI Gateway,用于 LLM 追踪
先了解这件事
Langfuse 发布了 AI Gateway,这是一个独立的开源 Rust 服务,它在 /openai/v1 和 /anthropic/v1 下代理原生 OpenAI 和 Anthropic API 路径,并通过 OTLP 将每次最终完成的调用作为一次 generation 上传到 Langfuse。该网关原样转发提供方的 JSON 和 SSE 字节,不做改写,通过 Langfuse Web 解析凭据,并且可以将 ANTHROPIC_BASE_URL 指向 /anthropic 命名空间,从而与 Claude Code 配合使用。 推理需要配置 Web URL 和共享服务密钥;如果没有 Web URL,进程启动后仅存活探针可用,而就绪探针和推理会返回 503。构建和测试不需要真实的 Web、数据库或提供方凭据,网关会加载根目录的 .env,并从 8080 开始监听第一个可用端口。 它以多平台 Docker 镜像的形式发布在 Docker Hub 和 ghcr.io 上。捕获范围限制为每次执行 5 MiB 的请求检查和 1 MiB 的保留输出。
AI 根据报道生成 · 27 分钟前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Hacker News · AILangfuse 发布 AI Gateway,一个可追踪每次 LLM 调用的开源 Rust 网关
Langfuse 已发布 AI Gateway,这是一个独立的 Rust 服务,在 /openai/v1 和 /anthropic/v1 下代理原生 OpenAI 和 Anthropic API 路径,并通过 OTLP 将每次最终完成的调用作为 generation 上传到 Langfuse。该网关原样转发提供方的 JSON 和 SSE 字节,不做重写,通过 Langfuse Web 解析凭证,并可通过将 ANTHROPIC_BASE_URL 指向 /anthropic 命名空间来配合 Claude Code 使用。它以多平台 Docker 镜像形式发布在 Docker Hub 和 ghcr.io 上,捕获范围限制为每次执行 5 MiB 的请求检查和 1 MiB 的保留输出。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。