Apple Machine Learning Research·· 4 ngày trướcĐiểm AI34
Weighted State Souping cho Truy xuất Ngữ cảnh Dài Hiệu quả
Weighted State Souping for Efficient Long-Context Retrieval
Tóm tắt bằng AI
Các nhà nghiên cứu Apple và cộng tác viên Harvard đề xuất weighted state souping, một phương pháp học trọng số phụ thuộc truy vấn để tái tổ hợp các mã hóa trạng thái SSM đã lưu trong bộ nhớ đệm, cải thiện hiệu suất ngữ cảnh dài trên QA tài liệu đơn bước và đa bước, truy xuất needle-in-a-haystack, theo dõi biến và sử dụng công cụ. Một biến thể thưa đạt chi phí mã hóa gần như không đổi theo độ dài ngữ cảnh trong khi vẫn giữ nguyên hoặc đôi khi cải thiện hiệu suất. Bài báo đã được chấp nhận tại hội thảo PALM tại NeurIPS 2026.
Nguồn:Apple Machine Learning Research · machinelearning.apple.com