Self-Improving Memory của Meta FAIR đạt 56,0 điểm trên Continual Learning Bench
Meta FAIR Self-Improving Memory Hits 56.0 on Continual Learning Bench
Meta FAIR, cùng các nhà nghiên cứu từ Đại học Washington và Đại học Johns Hopkins, đã giới thiệu Self-Improving Memory, một phương pháp hai giai đoạn cho phép một tác nhân Kimi-K2.6 tự viết lại các prompt bộ nhớ LOAD và OFFLOAD của chính nó, rồi chưng cất các kỹ năng thu được thành trọng số LoRA. Bộ khung tối ưu đạt trung bình 56,0 trên các tác vụ Database, Codebase và Spectrum của Continual Learning Bench, so với 44,6 của các prompt do con người viết tốt nhất, trong đó Codebase tăng 20,6 điểm lên 64,3. Sau khi chưng cất, mô hình chạy với các prompt chung và vẫn đạt trung bình 43,1, so với 37,6 của SFT trên các quỹ đạo chung, dù 37 trong số 44 lần chỉnh sửa của meta-agent không vượt được mức tốt nhất trước đó.
Nguồn:MarkTechPost · marktechpost.com