Khung "giấc ngủ" của Google Research giúp LLM củng cố kiến thức mới mà không bị quên thảm khốc

Google Research đã giới thiệu một khung "giấc ngủ" cho học liên tục, xen kẽ tương tác chủ động với củng cố bộ nhớ ngoại tuyến, cho phép LLM tiếp thu các sự kiện mới vào tham số Mixture-of-Experts mở rộng thay vì mất kiến thức trước đó. Cách tiếp cận kết hợp mở rộng tham số, chưng cất on-policy với mô phỏng dựa trên học tăng cường, và một giai đoạn mơ tạo và lọc các mẫu huấn luyện tổng hợp. Các tác giả báo cáo mức giảm hiệu suất gần bằng không trong dịch liên tục cho các ngôn ngữ chưa thấy như Manchu và Kalamang, khả năng mở rộng gần hoàn hảo lên 10M token trên BABILong, kết quả 48,9% đơn nhiệm vụ và 46,2% CPT trên việc tích hợp sự kiện dựa trên SQuAD, và 79,2%, 69,0% và 46,1% trên AIME 24/25 và HMMT 25.