自适应并行推理：高效推理扩展综述

伯克利人工智能研究院的一篇综述考察了自适应并行推理，即推理模型自身决定何时分解子任务、生成多少并发线程以及如何协调它们。文章将其与固定并行方法（如自一致性、Best-of-N、思维树、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference）进行对比，这些方法从外部强加并行结构。顺序推理在 token 和延迟上线性扩展，并存在上下文腐化风险，这促使人们采用独立并发探索的并行线程。