分叉加速：高效估计文本生成中的不确定性动态

Goodfire Research 的研究人员提出 Forking Fast，这是一种统计方法，可对噪声较大的低样本 rollout 数据进行平滑处理，以近似高样本结果，从而降低 LLM 推理中基于重采样的不确定性分析成本。该研究发现，当对多条推理链进行重采样时，不确定性动态会收敛到稳定模式，而观察到的噪声在很大程度上是采样伪影，而非模型对单个 token 或步骤的敏感性。