inclusionAI phát hành Ling-3.0-flash-Sante-fp8, mô hình chăm sóc sức khỏe lượng tử hóa FP8

inclusionAI đã phát hành Ling-3.0-flash-Sante-fp8, phiên bản lượng tử hóa FP8 của mô hình Ling-3.0-flash-Sante chuyên về chăm sóc sức khỏe, giữ nguyên 124B tổng tham số và 5.1B tham số hoạt động mỗi token. Mô hình đạt mức trung bình 73.9 trên các benchmark chăm sóc sức khỏe, tương đương checkpoint BF16, đồng thời giảm bộ nhớ trọng số cho phần cứng hỗ trợ FP8. Mô hình chỉ dành cho nghiên cứu này hỗ trợ ngữ cảnh 256K token và mặc định ở chế độ thinking với khả năng gọi công cụ.