Langfuse 發布開源 Rust AI Gateway，用於 LLM 追蹤
先了解這件事
Langfuse 發布了 AI Gateway，這是一個獨立的開源 Rust 服務，會將原生 OpenAI 與 Anthropic API 路徑代理於 /openai/v1 與 /anthropic/v1 之下，並透過 OTLP 將每次最終完成的呼叫以 generation 形式上傳至 Langfuse。此閘道會轉送供應商的 JSON 與 SSE 位元組，不會改寫它們；它透過 Langfuse Web 解析憑證，並且可將 ANTHROPIC_BASE_URL 指向 /anthropic 命名空間，以便與 Claude Code 搭配使用。 推論需要已設定的 Web URL 與共用服務金鑰；若沒有 Web URL，程序啟動時僅有存活檢查可用，而就緒檢查與推論會回傳 503。建置與測試不需要真實的 Web、資料庫或供應商憑證，且此閘道會載入根目錄的 .env，並從 8080 開始監聽第一個可用的連接埠。 它以多平台 Docker 映像形式發布於 Docker Hub 與 ghcr.io。擷取僅限於每次執行 5 MiB 的請求檢查量與 1 MiB 的保留輸出。
AI 依報導生成 · 27 分鐘前更新
報導時間線
沿著報導，了解事件的不同側面。
- Hacker News · AILangfuse 發布 AI Gateway，一個可追蹤每次 LLM 呼叫的開源 Rust 閘道
Langfuse 已發布 AI Gateway，這是一個獨立的 Rust 服務，在 /openai/v1 與 /anthropic/v1 路徑下代理原生 OpenAI 與 Anthropic API，並透過 OTLP 將每次完成的呼叫以 generation 形式上傳至 Langfuse。此閘道直接轉發供應商的 JSON 與 SSE 位元組而不改寫，透過 Langfuse Web 解析憑證，並可將 ANTHROPIC_BASE_URL 指向 /anthropic 命名空間以搭配 Claude Code 使用。它以多平台 Docker 映像形式發布於 Docker Hub 與 ghcr.io，擷取範圍限制為每次執行 5 MiB 的請求檢查與 1 MiB 的輸出保留。
本事件熱度走勢
還沒有足夠的連續觀測資料，暫不繪製趨勢。