Vidai ra mắt phòng điều khiển quản trị cuộc gọi AI trong mạng nội bộ
Bắt đầu từ đây
Vidai đã ra mắt một phòng điều khiển quản lý mọi cuộc gọi AI bên trong chính mạng của khách hàng, kiểm tra danh tính người gọi, nội dung prompt, cùng các mô hình và khu vực được phép trước khi định tuyến, tính giá và ký bản ghi cho từng yêu cầu. Sản phẩm hoạt động với SDK của OpenAI, Anthropic và Gemini chỉ qua một thay đổi cấu hình. Vidai báo cáo 47.200 cuộc gọi mỗi giây trên một máy với độ trễ tăng thêm trung vị 0,58 ms. Sản phẩm miễn phí không giới hạn thời gian cho các kỹ sư dùng thử trên lưu lượng của chính họ, còn mục đích thương mại cần được phê duyệt. Các nhà cung cấp Bedrock và Vertex AI đang ở giai đoạn alpha. Vidai cho biết sau bản demo 20 phút, họ đồng ý một đợt thử nghiệm hai tuần bao gồm một ứng dụng hoặc một nhóm, lưu lượng của khách hàng và hạ tầng của khách hàng.
Tạo từ các bài viết · cập nhật 14 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIVidai ra mắt phòng điều khiển quản trị AI kiểm tra mọi lệnh gọi mô hình
Vidai đã giới thiệu một Phòng điều khiển quản lý mọi lệnh gọi AI bên trong mạng của chính khách hàng, kiểm tra danh tính người gọi, nội dung prompt cùng các mô hình và khu vực được phép trước khi định tuyến, tính giá và ký bản ghi cho từng yêu cầu. Nó hoạt động với các SDK của OpenAI, Anthropic và Gemini chỉ qua một thay đổi cấu hình, và Vidai báo cáo 47.200 lệnh gọi mỗi giây trên một máy với độ trễ tăng thêm trung vị 0,58 ms.
Độ nóng của sự việc này
- Hiện tại, trong khoảng so sánh được
- 7
- Đỉnh, trong khoảng so sánh được
- 1017 tháng 11 18:00
- Thay đổi trong 24 giờ
- –
Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.