自適應平行推理：高效推理擴展綜述

柏克萊人工智慧研究的一篇綜述探討自適應平行推理，其中推理模型本身決定何時分解子任務、要生成多少個並行執行緒，以及如何協調它們。該文章將此與固定平行方法進行對比，例如自洽性、Best-of-N、思維樹、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference，這些方法從外部強加平行結構。順序推理在 token 和延遲上呈線性擴展，並有上下文腐化的風險，這促使人們採用獨立且並行探索的平行執行緒。