Google Research 的睡眠框架让 LLM 在不发生灾难性遗忘的情况下巩固新知识

Google Research 提出了一种用于持续学习的睡眠框架，该框架交替进行主动交互与离线记忆巩固，让 LLM 将新事实吸收到扩展的混合专家参数中，而不是丢失先前的知识。该方法结合了参数扩展、基于策略的蒸馏与基于强化学习的模仿，以及一个生成并筛选合成训练样本的“做梦”阶段。作者报告称，在满语和 Kalamang 等未见语言的持续翻译中性能下降接近零，在 BABILong 上扩展到 1000 万 token 时接近完美，在基于 SQuAD 的事实融入中单任务达到 48.9%、CPT 达到 46.2%，在 AIME 24/25 和 HMMT 25 上分别达到 79.2%、69.0% 和 46.1%。