inclusionAI phát hành Ming-3.0-audio-flash, mô hình ngôn ngữ - âm thanh
Bắt đầu từ đây
inclusionAI đã phát hành Ming-3.0-audio-flash, một mô hình ngôn ngữ - âm thanh Mixture-of-Experts gốc với tổng cộng 126B tham số và 6.5B tham số được kích hoạt mỗi bước suy luận, theo Giấy phép MIT. Mô hình nhận đầu vào là âm thanh kèm chỉ dẫn văn bản và xuất ra văn bản hoặc giọng nói tổng hợp tùy chọn, bao quát nhận dạng giọng nói, hỏi đáp bằng lời nói, hiểu âm thanh dài, suy luận âm thanh và tương tác giọng nói bằng tiếng Trung và tiếng Anh. Mô hình báo cáo 99.8% trên benchmark Big Bench Audio của Artificial Analysis, con số này lấy từ bản phát hành của chính inclusionAI. Kho lưu trữ tài liệu hóa các thiết lập phục vụ Transformers, vLLM-Omni và SGLang. Cấu hình phục vụ tham chiếu 128K sử dụng song song tensor trên bốn GPU H800 80 GB; inclusionAI lưu ý rằng đầu vào âm thanh đặc biệt dài có thể hết bộ nhớ trên các cấu hình bốn GPU, trong trường hợp đó có cấu hình dự phòng tám GPU. Một cấu hình phục vụ hai GPU đặt thinker trên cả hai thiết bị hiển thị, bộ mã hóa âm thanh trên GPU 0 và tổng hợp giọng nói trên GPU 1.
Tạo từ các bài viết · cập nhật 21 phút trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- inclusionAI ModelsTuyển chọninclusionAI phát hành Ming-3.0-audio-flash, mô hình ngôn ngữ âm thanh MoE 126B theo giấy phép MIT
inclusionAI đã phát hành Ming-3.0-audio-flash, một mô hình Mixture-of-Experts ngôn ngữ âm thanh gốc với tổng cộng 126B tham số và 6.5B tham số được kích hoạt mỗi bước suy luận, theo Giấy phép MIT. Mô hình nhận đầu vào là âm thanh kèm chỉ dẫn văn bản và xuất ra văn bản hoặc giọng nói tổng hợp tùy chọn, bao quát nhận dạng giọng nói, hỏi đáp bằng giọng nói, hiểu âm thanh dài, suy luận âm thanh và tương tác giọng nói bằng tiếng Trung và tiếng Anh. Mô hình báo cáo đạt 99.8% trên benchmark Big Bench Audio của Artificial Analysis, và kho lưu trữ tài liệu hóa các thiết lập phục vụ Transformers, vLLM-Omni và SGLang.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.