Tới nội dung
Hacker News · AI·· 15 giờ trướcĐiểm AI38

Vidai ra mắt phòng điều khiển quản trị AI kiểm tra mọi lệnh gọi mô hình

Shifting AI Governance to Infrastructure

Tóm tắt bằng AI

Vidai đã giới thiệu một Phòng điều khiển quản lý mọi lệnh gọi AI bên trong mạng của chính khách hàng, kiểm tra danh tính người gọi, nội dung prompt cùng các mô hình và khu vực được phép trước khi định tuyến, tính giá và ký bản ghi cho từng yêu cầu. Nó hoạt động với các SDK của OpenAI, Anthropic và Gemini chỉ qua một thay đổi cấu hình, và Vidai báo cáo 47.200 lệnh gọi mỗi giây trên một máy với độ trễ tăng thêm trung vị 0,58 ms.

Nguồn:Hacker News · AI · vidai.si