AWS 为 SageMaker AI 双向流式推理新增按用量计费

AWS 宣布为 Amazon SageMaker AI 双向流式推理推出按用量计费，让模型提供商在实时会话期间向 AWS Marketplace 软件费用上报实际用量。Deepgram 是首发合作伙伴，将按用量计费的语音转文本和文本转语音计费引入 AWS Marketplace。 该设计新增一条配套的 WebSocket 元数据流，提供商通过它发送增量计量记录，每条连接限制为每秒一条消息、每条消息 512 字节。如果该流未能建立或会话中途断开，推理默认继续进行，因为 metadata-stream-required 请求头默认为 false。 计量并不取代基础设施计费：SageMaker AI 端点基础设施费用仍然适用，AWS 建议测试后删除测试端点，以避免持续产生费用。

AI 根据报道生成 · 23 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。