AWS bổ sung tính năng đo lường theo mức sử dụng cho SageMaker AI bidi streaming
Bắt đầu từ đây
AWS đã công bố tính năng đo lường theo mức sử dụng cho suy luận truyền phát hai chiều của Amazon SageMaker AI, cho phép các nhà cung cấp mô hình báo cáo mức tiêu thụ thực tế cho phí phần mềm trên AWS Marketplace trong các phiên trực tiếp. Deepgram là đối tác ra mắt, mang đến tính năng tính phí Speech-to-Text và Text-to-Speech theo mức sử dụng trên AWS Marketplace. Thiết kế này bổ sung một luồng siêu dữ liệu WebSocket đi kèm, qua đó các nhà cung cấp gửi các bản ghi đo lường tăng dần, giới hạn ở một tin nhắn mỗi giây cho mỗi kết nối và 512 byte mỗi tin nhắn. Nếu luồng đó không thiết lập được hoặc bị ngắt giữa phiên, suy luận vẫn tiếp tục theo mặc định, vì tiêu đề yêu cầu luồng siêu dữ liệu mặc định là false. Việc đo lường không thay thế tính phí cơ sở hạ tầng: phí cơ sở hạ tầng endpoint của SageMaker AI vẫn được áp dụng và AWS khuyến nghị xóa các endpoint thử nghiệm sau khi kiểm tra để tránh phát sinh chi phí tiếp tục.
Tạo từ các bài viết · cập nhật 23 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- AWS Machine Learning BlogAmazon SageMaker AI phát trực tuyến hai chiều được hưởng giá theo mức sử dụng, Deepgram là đối tác ra mắt
Amazon SageMaker AI phát trực tuyến hai chiều hiện hỗ trợ đo lường theo mức sử dụng, cho phép các nhà cung cấp mô hình báo cáo mức tiêu thụ thực tế cho phí phần mềm trên AWS Marketplace trong khi phí hạ tầng endpoint vẫn được áp dụng. Deepgram là đối tác ra mắt, mang đến tính phí Speech-to-Text và Text-to-Speech theo mức sử dụng trên AWS Marketplace. Thiết kế bổ sung một luồng siêu dữ liệu WebSocket đi kèm, giới hạn ở một tin nhắn mỗi giây và 512 byte, để các nhà cung cấp có thể gửi các bản ghi đo lường tăng dần trong các phiên trực tiếp.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.