Tới nội dung
Baseten Blog·· 3 giờ trướcĐiểm AI58

Baseten ra mắt Voice Agent Stack và API voice agent Realtime Voice dưới dạng bản xem trước riêng tư

Introducing the Baseten Voice Agent Stack: own and optimize voice agents end-to-end

Tóm tắt bằng AI

Baseten đã ra mắt Baseten Voice Agent Stack, hạ tầng để vận hành các voice agent trong môi trường production trên Baseten Dedicated Inference, cùng với Baseten Realtime Voice, một API voice agent tham chiếu được xây dựng trên đó; cả hai đều đang ở dạng bản xem trước riêng tư. Realtime Voice vận hành một chuỗi các mô hình giọng nói trọng số mở được tối ưu hóa cho Baseten với một bộ điều phối dựa trên Pipecat, có chi phí khoảng 0,012 USD mỗi phút âm thanh ở 32 luồng đồng thời, và báo cáo đạt 93% trên Full-Duplex-Bench và 73,5% trên τ²-Bench Voice. Stack này giữ bộ điều phối và các mô hình trong cùng một cụm, mở rộng quy mô từng thành phần một cách độc lập, hỗ trợ hậu huấn luyện ở từng giai đoạn, và sử dụng giao thức OpenAI Realtime để dễ dàng chuyển đổi hơn.

Nguồn:Baseten Blog · baseten.co