跳至正文
Goodfire Research·· 2026-08-20AI 評分26

快速分岔:高效估計文字生成中的不確定性動態

Forking Fast: Efficiently Estimating Uncertainty Dynamics in Text Generation

AI 導讀

Goodfire Research 的研究人員提出 Forking Fast,這是一種統計方法,可平滑雜訊較大的低樣本 rollout 資料,以近似高樣本結果,從而降低 LLM 推理中基於重採樣的不確定性分析成本。該研究發現,當對多條推理鏈進行重採樣時,不確定性動態會收斂到穩定模式,而觀察到的雜訊在很大程度上是採樣偽影,而非模型對個別 token 或步驟的敏感度。

來源:Goodfire Research · goodfire.com