Ai2 · Allen Institute for AI·· 10 天前AI 評分55
Ai2 發布 StateBench,用於測試語言模型如何在長文件中追蹤狀態變化
StateBench: Testing how language models track state changes over long documents
AI 導讀
Ai2 推出 StateBench,這是一套具有四個難度等級的長上下文狀態追蹤基準,涵蓋從不可變賦值到自我參照與交叉參照更新。在測試中,Gemini 3.8 Flash、Claude Opus 5.5 以及 GPT-6 Sol 與 Luna 能處理較簡單的等級,但在最長的通用有限問題上降至 13% 或更低;而 275M 參數的 Gated DeltaNet 與從頭訓練的混合模型在前三個等級上幾乎完美泛化,Transformer 則從未學會最難的等級。
來源:Ai2 · Allen Institute for AI · allenai.org