跳至正文
Hacker News · AI·· 15 小時前AI 評分38

Vidai 推出 AI 治理控制室,檢查每一次模型呼叫

Shifting AI Governance to Infrastructure

AI 導讀

Vidai 推出了一個控制室,可在客戶自己的網路內治理每一次 AI 呼叫,在路由、計價與簽署每筆請求紀錄之前,檢查呼叫者身分、提示內容以及允許的模型與區域。它透過單一設定變更即可與 OpenAI、Anthropic 和 Gemini SDK 搭配運作,Vidai 回報單一機器上每秒 47,200 次呼叫,中位數增加延遲為 0.58 毫秒。

來源:Hacker News · AI · vidai.si