Hacker News · AI·· 15 giờ trướcĐiểm AI38
Vidai ra mắt phòng điều khiển quản trị AI kiểm tra mọi lệnh gọi mô hình
Shifting AI Governance to Infrastructure
Tóm tắt bằng AI
Vidai đã giới thiệu một Phòng điều khiển quản lý mọi lệnh gọi AI bên trong mạng của chính khách hàng, kiểm tra danh tính người gọi, nội dung prompt cùng các mô hình và khu vực được phép trước khi định tuyến, tính giá và ký bản ghi cho từng yêu cầu. Nó hoạt động với các SDK của OpenAI, Anthropic và Gemini chỉ qua một thay đổi cấu hình, và Vidai báo cáo 47.200 lệnh gọi mỗi giây trên một máy với độ trễ tăng thêm trung vị 0,58 ms.
Nguồn:Hacker News · AI · vidai.si