ParaTempo：怎么知道推理分支快想明白了，还是在绕圈？

给大模型出一道竞赛数学题，让 16 条推理路径同时开工，最后对答案投票。局面常常是这样：有几条分支一半路就把正确答案写了出来，剩下的篇幅全在写"我再检查一遍"；另几条分支已经彻底想岔，还在把错误思路越写越长。等所有路径跑完再投票时，赢家在很早以前就已注定。这段白烧的算力，正是《ParaTempo: Efficient Parallel Reasoning via Temporal Confidence》这篇论文要回收的东西。

多分支并行推理，是这两年大模型变准的主流配方。self-consistency（自洽性）在 2022 年就证明了它的价值：同一道题采样多条推理路径，最后按最终答案多数投票，比单条路径明显更稳，在 PaLM-540B 这类大模型上，GSM8K 直接涨了 17.9 个百分点 Self-Consistency。但这个配方里藏着一个成本陷阱：N 条路径必须全部跑完才能投票，中途不允许任何一条提前离场。

图注：Self-Consistency 的三步法。左侧用 chain-of-thought prompt 引导模型分步解题，中间采样出多条推理路径，右侧对最终答案多数投票，答案 18 胜出。图里的数字只是示意，不是基准成绩。Self-Consistency

多分支采样之所以有意义，前提是模型会写中间推理步骤。这个能力靠 chain-of-thought（思维链）提示在 2022 年被稳定激发出来 CoT。而它的成本结构很清楚：总算力约等于分支数乘以平均路径长度，两者都随题目难度上涨。ParaTempo 把这种"预算固定、全跑完再投票"的做法称为固定预算范式，并点出浪费发生在两类分支上：早就想明白、还在写验证语的分支，和注定走不到答案的分支 ParaTempo。

下面这张图把浪费变成了看得见的事实。一条 R1-Qwen-32B 分支在一道小学算术题上，推理到中段就把答案 12 写了出来，之后还在继续生成大段冗余验证。

图注：一条分支在 GSM8K 题上的完整推理。答案 12 在推理中段被高亮标出，之后的段落是灰色的冗余验证。答案早已出现，分支仍在继续生成。SAC

这笔账在今天格外刺眼。推理模型（reasoning model）把大量算力花在"想"上，推理时计算（test-time compute）已经成了算力账单的大头，而并行推理又是其中最贵的一档：它按分支数成倍地重复整条推理链。省下的 token 和延迟不是实验室里的锦上添花，而是实打实的服务成本，这也是分支级控制这两年突然变热的原因。要省钱只有一条路：在推理中途判断每条分支是快想明白了还是在绕圈，然后把算力从后者身上挪走。问题随之而来，判断要靠信号，而既有的三类信号，都不够用。

想省钱就得靠信号，为什么既有的三类信号都卡在看单点？

中途控制不是新想法。过去几年，研究者试过三类信号，毛病也都被摸清了。

第一类看最终答案的一致性。ESC（Early-Stopping Self-Consistency，ICLR 2024）把采样预算切成小窗口，只要窗口内几条路径的最终答案完全一致就停止采样。这个方法简洁，还有统计检验兜底：作者用 one-proportion z-test 论证，窗口内完全一致时，投票结果几乎必然与完整 SC 相同，窗口大小取 8 时不一致概率的上界约 2×10⁻³。理论没有问题，问题只在时机。它只能等答案真正写出来才启动，属于迟到的信号：一致性的证据可靠，却总要等大量算力已经烧完才浮现 ESC。

第二类看生成 token 的置信度。DeepConf（Meta AI Research，2025 年 8 月）逐 token 维护一个滑动窗口内的平均置信度，低于热身阶段定好的阈值就提前截断该分支，票数一旦集中就整轮停止。问题出在单点太噪：模型在同一行推理里，置信度就能剧烈起伏，还会出现"自信地犯错"，满怀信心地走在错误的推理路径上 DeepConf。

第三类看中间探测。每隔一段推理就强制模型报一次当前答案，连续几次答案一致就停。代表工作是 SAC（Answer Convergence，EMNLP 2025）和 Parallel-Probe。SAC 把推理按句子分块，连续 k 个块答案一致就停，简单任务上很有效，但一到 MATH-500、GPQA 这类难题，准确率会掉一大截，比如 MATH-500 上从 91% 掉到 55% SAC。它还用一个"答案收敛比"量化了这种现象：答案首次稳定不再变化的地点，在不同任务上平均落在整条推理的 60% 到 90% 之间，后面的 10% 到 40% 步骤对最终答案毫无贡献，模型却停不下来。Parallel-Probe 把探测做成一个分支数乘探测次数的二维矩阵，控制则靠"连续 u 次共识不变"这类对快照的数数 Parallel-Probe。

三类信号可以放进一张表看：

浪费有多普遍，Parallel-Probe 的大规模观测给过答案。它发现三件事：同样一笔 token 预算，宽度和深度怎么分配，准确率可以差很多；分支长度高度不均，极少数超长分支吃掉不成比例的资源；最关键的是第三条，全局共识平均在推理刚走过约 31% 时就已稳定，后面的算力大多在重复已经定下的答案 Parallel-Probe。

三类信号的病根是同一个：它们都只读当下这一刻，读不出"正在收敛"的趋势。而这正是 ParaTempo 要给的东西。

temporal confidence：凭什么知道一条分支正在想明白？

先给一个直觉。判断一锅汤咸淡，只喝一口容易误判，可能刚好舀到一颗盐粒；连着尝最近几口，味道都差不多，才敢下结论。一口对应单次探测的瞬时置信度，连着几口取平均，对应 ParaTempo 的滑动窗口。temporal confidence（时间置信度）要回答的问题不是"最终答案是什么"，而是"这条分支最近是不是在向同一个答案集中"。

做法分三步。第一步是探测：每条分支每写 τ=500 个 token，就被打断一次，强制追加一个"最终答案是"式的后缀，让模型给出当前的候选答案，把 top-L=20 个候选首 token 的概率归一化成答案桶上的分布。第二步是窗口聚合：保留最近 W=7 次探测的分布，逐答案取平均，得到 g。第三步是压缩：对平均分布求熵，再做指数变换，得到一个 (0,1] 区间里的标量：

$$C_{i,t} = \exp(-H(g_{i,t}))$$

熵衡量一个分布有多分散。g 分散在多个假设之间时，C 接近 0；g 集中在同一个主导答案上时，C 接近 1。整体含义是"竞争答案的有效个数"的倒数：越接近 1，说明最近这 7 次探测越来越一致地指向同一个答案。噪声在时间上被平均掉了，这正是单点信号缺的那一层 ParaTempo。

凭什么说这个信号又稳又准？论文专门做了一项初步研究，把 temporal confidence 和 token 级信号、瞬时答案置信度放在一起比：

图注：论文 Figure 4。左图对比几种信号的时序曲线，temporal confidence 明显更平滑；右图按信号分位数统计未来稳定率，随分位数单调上升。右图是统计趋势，不是对单个分支的保证。ParaTempo

数字也说明问题。token 级信号的标准化波动度高达 0.54 以上，对"这条分支未来还会不会守在当前答案上"的预测力，Spearman 相关系数只有约 0.13，几乎等于没有。瞬时答案置信度波动小一些，0.26，但它仍是单点判断，一个短暂的错误假设就能把它带偏。temporal confidence 的优势是双重的：波动被窗口平均磨平，预测力来自一个干净的结构，它就是"正在收敛"这件事本身 ParaTempo。

论文度量"预测力"的方式是未来稳定率：看一条分支往后 h=5 步，是不是还守在同一主导答案上。落在高分位的分支，未来稳定率明显更高，这条单调关系正是它能指挥提前停的根据。值得强调，它不预测哪个答案是对的，只预测这条分支会不会继续向同一个答案集中。把"会不会收敛"和"收敛到哪"分开，正是它和终答案一致性类信号的分工：前者用来指挥算力，后者留到最后投票。

一支推理分支的一生：探测、剪枝、退役、派生

有了信号，该怎么用？ParaTempo 的第一个决定是把控制权交给分支自己，而不是统一调度器。同步控制里，所有分支在一个全局屏障前对齐，最慢的分支决定整轮耗时。异步控制相反：每条分支攒够自己的证据就自己行动，关键路径由最快的分支决定，这是省延迟的第一个来源。

图注：论文 Figure 2。左图同步控制中所有分支按统一节奏推进，最慢的分支决定总时长；右图 ParaTempo 中分支各自独立退役、剪枝、派生，释放的预算被重新分配。这张图只讲调度方式，不是性能曲线。ParaTempo

完整的生命周期是这样的。每写 500 个 token，分支就被探测一次，拿到最新的答案分布，这是整条生命周期的节拍器。从这个分布里读出两种不同的量：temporal confidence 把最近 7 次探测的结果在答案桶上平均，再压成 (0,1] 区间的标量，回答"最近一段是不是在向同一个答案集中"；逐次 top-1 概率则是这一次探测里最强候选的原始概率，回答"此刻有多确信"。头 15 次探测，系统只收集不干预，攒够之后取这些 temporal confidence 值的 0.50 分位数，作为这个实例自己的剪枝阈值，避免全局手设一个死数字。节拍器响起来之后，三种动作轮流上场，各自认领不同的信号。剪枝认领趋势：temporal confidence 低于阈值的分支，说明它长期在多个假设之间游移，直接终止并释放算力。退役认领单点强度：逐次 top-1 概率在连续 9 次探测里都达到 0.90，说明这条分支已经在同一个答案上站稳，再写下去是浪费，于是停止生成，但保留它的一票作为投票证据。触发退役的不是那个窗口平均后的标量，而是一连串"每次都够强"的逐次记录。被释放的算力不会闲置，而是从 temporal confidence 最高的合格分支派生出一条新分支，用独立随机种子继续探索。算力就这样自然地从已经想明白的方向，流向还没想明白的方向。最后是收尾：每个分支按置信度带权重投票，某个答案的加权票数一旦达到分支总数的一半，也就是 γ_ES=0.50，整套系统就全局停止，返回该答案，不必等分支们迈过同一条终点线。

图注：ParaTempo 整体框架（论文 Figure 1）。分支周期性进入探测与 temporal confidence 估计，中央是剪枝、退役、派生三种生命周期动作，右侧汇入置信加权投票。剪枝看窗口聚合的集中度，退役看逐次 top-1 概率是否连续达标，两类决策共用同一次探测，分支之间没有同步屏障。ParaTempo

分支在 Active、Retired、Pruned、Forked 四种状态之间流转。反常之处值得点破：这套系统没有训练任何控制器，没有改动模型权重，分支之间甚至不需要任何同步屏障。唯一的输入是每 500 个 token 打一次的那个答案分布，两种决策都从同一次探测里读数，分工却不同。剪枝读的是窗口平均后的趋势标量，这才是第二章单点信号缺的那一层；退役读的是逐次 top-1 概率，并要求它连续 9 次都站在 0.90 以上，本质上仍是"连续几次都达标"的计数判据，和第二章那类离散判据血缘更近。真正把这里和第二章分开的，是两点：计数按分支局部触发、不再全局等待；一旦触发，预算立刻经派生流回还在探索的分支，而不是停在原处浪费。信号不是同一个，分工才是这套系统的关键 ParaTempo。

省两到三成算力，准确率真的没掉？

ParaTempo 在两个模型上做实验，每轮 16 条分支：Qwen3.5-35B-A3B 与 GPT-OSS-20B，跑 AIME26、HMMT25、HMMT26 和 GPQA-Diamond 四个基准，结果取四次运行的平均。对照基线是所有分支跑满再投票的 SC@16。论文没有给标准差，所以这里的数字只说平均值和区间。

Qwen 上四个基准的平均：

GPT-OSS 上省得更多，结构却不同：延迟省 32.2%，token 省 18.1%。放在一起就是摘要里的区间：延迟降 21.8% 到 32.2%，token 降 18.1% 到 30.3% ParaTempo。

重点是没有掉准的部分，和掉准的部分，都要说。没有掉准，指整体准确率与全跑完基线基本持平，Qwen 在 HMMT25 上甚至反超，73.3% 对 69.2%。掉准的部分也如实呈现：GPT-OSS 在 AIME26 上是 86.7% 对 90.0%，差 3.3 个百分点。这不是"省了还更准"的魔法，而是把固定预算里本就浪费的部分重新分配，准确率整体持平、个别基准付出可见的代价，这才是对这篇论文的准确读法。

和同期方案比呢？Parallel-Probe 是同样免训练的中间探测方案，Qwen 上 ParaTempo 准确率高 3.9 个百分点，例如 AIME26 从 76.7% 提到 83.3%，延迟再低 10.6%，GPT-OSS 上同样高 3.8 个百分点 Parallel-Probe。和 SAC 比，差距在难题上更醒目：GPT-OSS 的 AIME26 上，SAC 只有 76.7%，比 SC 的 90.0% 还低一截，ParaTempo 拿到 86.7% SAC。SAC 只用"答案一致"当停机信号、不做算力再分配，对难题停得过早，对简单题又停得太晚。

论文还画了准确率和延迟之间的 Pareto 前沿，结论是：在所有被评估的延迟区间，ParaTempo 都拿到更优或同等的边界；最高预算配置下达到与 SC@16 相当甚至更高的准确率，同时延迟还低约 20%。换句话说，省下的钱主要是从浪费里回收的，而不是用准确率换来的 ParaTempo。

省下来的钱具体从哪里来，消融实验给了答案。在 HMMT25 上用 Qwen 测：完整版准确率 73.3%；单独关掉退役机制，准确率掉到 66.7%，这是最大的损失，说明退役是保住准确率的主要机制；关掉剪枝，主要影响是总 token 从约 167k 涨回约 179k，说明剪枝负责去冗余；关掉派生，准确率掉 3.3 个百分点，因为解空间多样性受损 ParaTempo。

边界在明处：值得跟进，但它是特化的

ParaTempo 的工程价值很清楚。免训练，不需要 verifier 或奖励模型；异步，分支间零同步；全部决策由单一信号驱动；代码和数据开源，仓库在 github.com/ScottZhang812/ParaTempo ParaTempo。

它在更大图景里的坐标也清楚。Snell 等人的研究证明，统一把推理预算摊给所有题目不是最优的，按难度分配算力才是；ParaTempo 把这条思路搬进并行采样内部，按分支收敛度动态分配，而且全程免训练 Snell et al.。领域综述把"基于中间答案置信度的免训练 early exit"列为高效 test-time compute 的一个子方向，ParaTempo 正落在这支里 TTC Survey。

局限也全摆在明处。第一，它依赖 answer probing 和 log-prob 访问，闭源 API 拿不到这些，用不了。第二，它以候选首 token 的答案分布为代理，对长文本、代码生成、答案无法归一化的场景不够鲁棒。第三，阈值激进且未校准时反而会伤准确率，预热阶段只是缓解，并没有根治。第四，评估集中在答案可归一化的数学与科学问答上。论文是 2026 年 8 月提交的 arXiv preprint，接收状态未知，复现以官方仓库为准 ParaTempo。

所以判断应该是：它是答案可归一化的推理任务上成熟的工程方案，不是一个通用推理加速器。边界之外也留着现成的开放问题：闭源场景下拿不到 log-prob，怎么估计分支收敛度？长文本和代码生成里，答案分布怎么定义？趋势信号负责剪枝、verifier 负责最终选优，两种机制能不能互补？

值得跟进的原因也不只在数字。在 test-time compute 这个方向上，"按需分配算力"过去常常意味着训练一个 verifier，门槛不低。ParaTempo 把同样的目标降到了免训练、可复现、单信号驱动的水平，任何能访问 log-prob 的团队都可以在自己的模型上直接试。这才是它作为一项工程的贡献：方向没有变，成本结构变了。

ParaTempo 没有发明新的推理能力。它只做了一件事：让"往哪里投算力"这个决定，去听一条分支自己随时间写下的趋势。一条分支是不是快想明白了，模型自己其实一直知道，只是以前没人问。

想深入可以读原文：ParaTempo: Efficient Parallel Reasoning via Temporal Confidence — arXiv:2608.16425

参考文献

• ParaTempo: Efficient Parallel Reasoning via Temporal Confidence：https://arxiv.org/abs/2608.16425
• Self-Consistency Improves Chain of Thought Reasoning in Language Models：https://arxiv.org/abs/2203.11171
• Chain-of-Thought Prompting Elicits Reasoning in Large Language Models：https://arxiv.org/abs/2201.11903
• Escape Sky-high Cost: Early-Stopping Self-Consistency for Multi-Step Reasoning：https://arxiv.org/abs/2401.10480
• Answer Convergence as a Signal for Early Stopping in Reasoning：https://arxiv.org/abs/2506.02536
• Deep Think with Confidence (DeepConf)：https://arxiv.org/abs/2508.15260
• Parallel-Probe: Towards Efficient Parallel Thinking via 2D Probing：https://arxiv.org/abs/2602.03845
• Scaling LLM Test-Time Compute Optimally Can Be More Effective Than Scaling Parameters for Reasoning：https://arxiv.org/abs/2408.03314
• A Survey of Test-Time Compute: From Intuitive Inference to Deliberate Reasoning：https://arxiv.org/abs/2501.02497