Hacker News · AI·· 15 小时前AI 评分38
Vidai 推出 AI 治理控制室,可检查每一次模型调用
Shifting AI Governance to Infrastructure
AI 导读
Vidai 推出了一个控制室,可在客户自己的网络内治理每一次 AI 调用,在路由、定价并签署每条请求记录之前,检查调用方身份、提示内容以及允许使用的模型和区域。它通过一次配置更改即可与 OpenAI、Anthropic 和 Gemini SDK 配合使用,Vidai 报告单台机器每秒可处理 47,200 次调用,中位附加延迟为 0.58 毫秒。
来源:Hacker News · AI · vidai.si