跳到正文
10月11日周日
5月8日周五
  1. Berkeley AI Research43

    自适应并行推理:高效推理扩展的下一范式

    自适应并行推理是高效推理扩展的下一范式,核心是让推理模型自行决定何时分解并并行化独立子任务、启动多少并发线程以及如何协调。文章对比了自洽性/多数投票、Best-of-N、MCTS、ParaThinker、GroupThink、Hogwild! Inference 等并行推理方法,指出它们大多由模型外部固定并行结构,难以适配不同问题的并行度需求。