Microsoft phát hành Aion 1.0 Instruct, một SLM 2,3B chạy trên thiết bị Windows
Microsoft releases Aion 1.0 Instruct, a 2.3B on-device Windows SLM
Nhóm Khoa học Ứng dụng của Microsoft đã phát hành Aion 1.0 Instruct, một mô hình ngôn ngữ nhỏ 2,3 tỷ tham số dành cho các trường hợp sử dụng văn bản và hệ điều hành trên thiết bị Windows, được công bố trên Hugging Face theo giấy phép MIT với các thư viện PyTorch, ONNX và GGUF. Mô hình hỗ trợ cửa sổ ngữ cảnh 32K token và tám ngôn ngữ, và Microsoft cho biết một phiên bản tối ưu hóa đi kèm với mô hình kiểm duyệt nội dung của họ sẽ trở thành SLM của hệ điều hành Windows vào cuối tháng 1 năm 2027. Điểm số được công bố bao gồm 55,15 trên MMLU, 74,91 trên GSM8K và 83,90 trên IFEval, trong khi thẻ mô hình lưu ý những hạn chế trong suy luận đa bước phức tạp và khả năng bị tấn công đối kháng.
Nguồn:Hacker News · AI · huggingface.co