AWS adds usage-based metering to SageMaker AI bidi streaming
เนื้อหานี้ยังไม่มีในภาษาของคุณ จึงแสดงเป็นEnglish
เริ่มตรงนี้
AWS announced usage-based metering for Amazon SageMaker AI bidirectional streaming inference, letting model providers report actual consumption to AWS Marketplace software charges during live sessions. Deepgram is the launch partner, bringing usage-based Speech-to-Text and Text-to-Speech billing to AWS Marketplace. The design adds a companion WebSocket metadata stream through which providers send incremental metering records, capped at one message per second per connection and 512 bytes per message. If that stream fails to establish or drops mid-session, inference continues by default, since the metadata-stream-required header defaults to false. Metering does not replace infrastructure billing: SageMaker AI endpoint infrastructure charges still apply, and AWS advises deleting test endpoints after testing to avoid ongoing charges.
สร้างจากรายงาน · อัปเดต 22 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- AWS Machine Learning BlogAmazon SageMaker AI bidirectional streaming รองรับการคิดค่าบริการตามการใช้งาน โดยมี Deepgram เป็นพันธมิตรเปิดตัว
Amazon SageMaker AI bidirectional streaming รองรับการวัดการใช้งานตามปริมาณการใช้งานแล้ว ช่วยให้ผู้ให้บริการโมเดลสามารถรายงานการใช้งานจริงไปยังค่าบริการซอฟต์แวร์ของ AWS Marketplace ได้ ขณะที่ค่าบริการโครงสร้างพื้นฐานของ endpoint ยังคงมีผลอยู่ Deepgram เป็นพันธมิตรเปิดตัว นำการคิดค่าบริการ Speech-to-Text และ Text-to-Speech ตามการใช้งานมาสู่ AWS Marketplace การออกแบบเพิ่มสตรีมข้อมูลเมตา WebSocket เสริม ซึ่งจำกัดที่หนึ่งข้อความต่อวินาทีและ 512 ไบต์ เพื่อให้ผู้ให้บริการสามารถส่งบันทึกการวัดแบบเพิ่มขึ้นระหว่างเซสชันสดได้
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม