Baseten ra mắt Voice Agent Stack và Realtime Voice dưới dạng bản xem trước riêng tư
Bắt đầu từ đây
Baseten đã ra mắt Voice Agent Stack, hạ tầng để vận hành các voice agent trong môi trường production trên Dedicated Inference của mình, cùng Realtime Voice, một API voice agent tham chiếu được xây dựng trên đó. Cả hai đều đang ở dạng bản xem trước riêng tư và cần tham gia danh sách chờ. Realtime Voice kết nối các mô hình giọng nói trọng số mở được Baseten tối ưu với một bộ điều phối dựa trên Pipecat. Baseten cho biết hệ thống đạt 93% trên Full-Duplex-Bench và 73,5% trên τ²-Bench Voice, với chi phí khoảng 0,012 USD mỗi phút âm thanh ở 32 luồng đồng thời, tương đương khoảng 0,008 USD mỗi phút cuộc gọi ở 56 phiên đồng thời nếu tính cả việc ủy thác API mô hình. Các cuộc gọi được ủy thác cho những mô hình suy luận lớn hơn sẽ được tính phí theo token giống như các endpoint LLM tiêu chuẩn. Nền tảng này giữ bộ điều phối và các mô hình trong cùng một cụm, mở rộng quy mô từng thành phần một cách độc lập, hỗ trợ hậu huấn luyện ở từng giai đoạn và sử dụng giao thức OpenAI Realtime để thuận tiện cho việc chuyển đổi.
Tạo từ các bài viết · cập nhật 1 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Baseten BlogBaseten ra mắt Voice Agent Stack và API voice agent Realtime Voice dưới dạng bản xem trước riêng tư
Baseten đã ra mắt Baseten Voice Agent Stack, hạ tầng để vận hành các voice agent trong môi trường production trên Baseten Dedicated Inference, cùng với Baseten Realtime Voice, một API voice agent tham chiếu được xây dựng trên đó; cả hai đều đang ở dạng bản xem trước riêng tư. Realtime Voice vận hành một chuỗi các mô hình giọng nói trọng số mở được tối ưu hóa cho Baseten với một bộ điều phối dựa trên Pipecat, có chi phí khoảng 0,012 USD mỗi phút âm thanh ở 32 luồng đồng thời, và báo cáo đạt 93% trên Full-Duplex-Bench và 73,5% trên τ²-Bench Voice. Stack này giữ bộ điều phối và các mô hình trong cùng một cụm, mở rộng quy mô từng thành phần một cách độc lập, hỗ trợ hậu huấn luyện ở từng giai đoạn, và sử dụng giao thức OpenAI Realtime để dễ dàng chuyển đổi hơn.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.