MTI 与 STREAMMA:推理算力省着花能更准,但先得找对关键几步

1. 先立坐标系:推理期的算力,花在哪才算数

训练期扩展接近天花板之后,测试时扩展成了主流答案:推理时投入更多计算,用更深的推理或更广的搜索换更高准确率。CoT、self-consistency、Tree of Thoughts 都在这条路线上,它们共享一个代价假设:拿推理效率换性能,多条轨迹、大量采样、长链推演,开销随质量一起上行MTI。

今天要讲的两篇工作从同一个问题出发,却给出两个反着来的答案。MTI(Minimal Test-Time Intervention,最小测试时干预)说:别到处都花。推理错误并不均匀分布,只有少数高熵 token(词元,模型自己高度不确定的位置)决定答案的生死,所以只在这些位置做最小干预,其余位置照常生成。STREAMMA(Streaming Multi-Agent Reasoning,流式多智能体推理)说:别让下游干等着。多智能体链式推理里,下游智能体一直闲置到上游把整段回答写完,把通信粒度从完整回答细化为推理步骤、边生成边转发,算力花在消除等待上STREAMMA。

两条路线共享同一个方法论立场:不改造模型、不碰训练,只在解码层与智能体协议层重新分配算力。支撑它们的,是同一个关于推理结构的事实:推理路径的分叉点比我们以为的少得多。下面这张图来自 Wang 等人(2025)的研究,不是 MTI 的图,但它把现象讲得很直白:

高熵 token 是推理路径的少数分叉点

图注:(a) 面板是 CoT 轨迹里 token 熵的分布,绝大多数 token 熵很低,只有极少数 token 熵显著偏高,它们就是推理路径上的分叉点(forks);(b) 面板显示,把训练时反向传播的策略梯度(policy gradient,决定模型朝哪个方向更新)只限制在这批高熵 token 上,效果不降反升,且随模型规模放大。HighEntropy

后续两篇论文各自从这张图里取走一半:MTI 在解码侧对高熵 token 施加干预,STREAMMA 在协议侧让下游只吃到最可靠的头部步骤。但先别急着看方案,第一个要回答的问题是:凭什么说推理错误集中在少数位置?

2. 答错与答对差在哪:少数高熵 token 决定了答案的生死

MTI 的出发点是 AIME2024 上一个很廉价的对照:把模型答对的轨迹和答错的轨迹分开,比较它们的熵。先给两个定义。第 t 步的 token 熵衡量模型对这一步预测的不确定程度:

$$H_t = -\sum_{i=1}^{V} p_i \log p_i$$

其中 $p_i$ 是 softmax 之后第 i 个候选 token 的概率,V 是词表大小;分布越平、越接近均匀,熵越高。整条轨迹的答案熵(answer entropy)是逐 token 熵之和 $A_n = \sum_{t=1}^{T_n} H_t$,再对 N 个样本平均,就得到论文里的平均答案熵MTI.

答错与答对的熵对比

图注:背景直方图是 Qwen3-8B(思考模式)在 AIME2024 上生成 token 的熵分布,绝大多数 token 熵接近 0,只有右侧少数 token 熵很高,整体极度右偏;内嵌对比条显示答错的回答平均答案熵 5860.85,几乎是答对的 2584.46 的两倍多。注意这是纯观察,不含 MTI 干预后的结果。MTI

这两组数字放在一起,结论并不是"答错的每一步都更糟",而是错误集中在少数高熵岔路口。可以用编译器的关键路径来想:关键路径(critical path)是程序里决定整段耗时的那条最长依赖链,关键路径之外你怎么优化都不改变总耗时。这里结构对得上:推理链上少数高熵 token 决定整条答案的正误,其余低熵 token 动不动都不影响结果;自回归生成里,局部的不确定还会顺着链条传播放大,一个高熵位置的判断失误,会让后面每一步都建立在错误前提上。这正是不干预不行的原因,也正是"只干预这些位置就够了"的根据。

而且"更多并不总是更好"在序列层面有独立证据。Wu 等人(2025)在对 Qwen2.5 系列真实模型(MATH Level 5)的实验中,CoT 长度与准确率呈倒 U 形:1.5B 模型的最优长度是 14 步,72B 模型反而只有 4 步,更强的模型倾向把推理压缩进更少、更可靠的步骤里WhenMoreIsLess。

位置找对了,下一步的问题是:用什么手段去干预?那就要回到 CFG,以及 MTI 对它的两次改造。

3. CFG 的加权公式为什么写在 log 空间:从一次加权到 MTI 的三板斧

CFG(classifier-free guidance,无分类器引导)你已经很熟:把条件分支与无条件分支的预测加权起来,让输出更贴近任务要求。MTI 用的正是同一套路数,但把公式写在了 log 概率空间:

$$\log \hat{P}(x_t \mid c, \bar{c}, x_{<t}) = (1 - \omega) \cdot \log P(x_t \mid \bar{c}, x_{<t}) + \omega \cdot \log P(x_t \mid c, x_{<t})$$

c 是条件分支的上下文,c̄ 是无条件分支里的负向提示,ω 控制引导强度。问题在于:为什么是 log 空间,而不是直接给 P(·|c) 和 P(·|c̄) 各乘一个权重再相加?把两边取指数看就清楚了:log 空间的线性插值,等价于原始概率空间的几何加权

$$\hat{P}(x_t) = P(x_t \mid \bar{c}, x_{<t})^{1-\omega} \cdot P(x_t \mid c, x_{<t})^{\omega}$$

也就是两个分布逐 token 的几何平均。乘性加权与加性加权不同:它直接作用在概率比上。某个候选在条件分支与无条件分支之间的证据比,会整体被取 ω 次方,假设条件分支的证据是无条件分支的 10 倍,加权后这个优势被放大成 $10^{\omega}$ 倍,而不是被加性混合稀释成"差一点点"。所以 ω 的语义是一句话:以多大幅度推离无条件分支、拉近条件分支。ω=1 就是纯条件,ω>1 是超调,把条件分支的证据进一步放大。

为什么 CFG 天生就该写在 log 空间?这要从出身讲起。CFG 最早为扩散模型提出(Ho & Salimans, 2022),扩散模型学的本身是 log 概率的梯度(denoising score matching 把 score 估计为 $\nabla \log p$),把条件与无条件两个 score 做线性组合,映射回分布就是 log 概率空间的线性插值CFG-Diffusion。LLM 学的同样是 log 概率(softmax 交叉熵的目标就是 log p),所以这条式子从扩散模型平移过来时,形式和理由都原样保留。

那它为什么能压住高熵步的不确定性?高熵步的 logits(未归一化的原始分数,softmax 的输入)分布很平,top-1 与被压制的候选差距很小,概率排序本身就不可靠。log 空间的几何加权在这里做的是重排序:任务分支的证据按 ω 放大,错误分支的证据按 1−ω 压缩,原本纠缠的候选被重新拉开距离,被错误压制的正确候选得以浮上来。低熵步则完全相反:分布单峰主导,模型已经自信,加权改变不了 top-1 预测,执行 CFG 只是白算。这后一句话不是效率上的偷懒,而是机制使然,本段后面就有直接证据。

但把 vanilla CFG 直接用在高熵位置上,有两个障碍,都来自 LLM-CFG 的移植方式(Sanchez et al., 2023)。其一,扩散模型会在训练时专门学一个空条件(null condition)来充当无条件分支,LLM 没有这个过程,空负向提示校准差,无条件分支控制力不稳;其二,条件与无条件两支的上下文不同,要维护两套 KV cache(键值缓存,把已生成前缀的注意力键值存起来避免重复计算的机制),内存和计算双倍开销LLM-CFG. MTI 的三板斧,分别对应这两个障碍和"选择性"本身:

CFG 与 MTI 的机制对比

图注:左栏是 vanilla CFG:上下两套 KV cache(Cache_c 与 Cache_c̃)分别维护条件与无条件分支,每个 token 都走双分支计算,标注 "Ineffective + Inefficient"(无效且低效);右栏是 MTI:H₁=0.1、H₂=0.2 都小于阈值 τ,对应分支被虚线跳过,只有 H₃=1.2 超过 τ 时触发实线干预;底部 Cache_c 标注 Reuse(复用),只注入一句 "OUTPUT ERROR",标注 "Effective + Efficient"(有效且高效)。MTI

第一板斧是选择性 CFG 干预:解码时实时监控 token 熵,只有 $H_t > \tau$ 才施加 CFG,其余位置照常生成。第二板斧解决无条件分支不稳:在高熵 token 即将生成前,往输入末尾追加两个词的负向提示 "OUTPUT ERROR",隐式构造一个"我不想要的分布"作为无条件分支;这个分支的语义明确(错误、失败),比空提示可靠。第三板斧解决双 KV cache:无条件分支复用条件分支的 KV cache,只在末尾多算两个辅助 token,不再维护第二套缓存。

为什么"只在高熵处开 CFG"不只是一个省算力的工程选择,而是机制必然?看这份直接证据:

低熵 token 对 CFG 免疫

图注:按 vanilla CFG 是否改变 top-1 预测,把 token 分成两组统计熵分布。上图(未被成功修改的 token)几乎全部挤在熵≈0 处,数量级上万;下图(被成功修改的 token)集中在熵≈0.7 附近,峰值只有几百。两图纵轴数量级的巨大落差本身就是结论:CFG 根本改不动低熵 token,它只在高熵处有效。MTI

机制上说得通,数据上呢?下一章看 MTI 的完整证据链:只干预两成不到的 token,效果和代价分别是什么。

4. 只干预两成不到的 token,凭什么更准还更快

先看调参面。三组消融(熵阈值 τ、CFG 强度 ω、负向提示选择)呈现同一个形状:先升后降,峰值附近有一段平坦区域:

三组消融的统一趋势

图注:(a) 熵阈值 τ:准确率在 τ=0.5 附近达峰,随后回落;(b) CFG 强度 ω:峰值在 1.5 附近,之后保持高位平稳;(c) 负向提示选择:语义明确的负向提示效果最好(OUTPUT ERROR),一致好于正向提示,也明显好于 apple、!!! 这类无意义或弱信息 token。MTI

峰值附近那段平坦区说明 MTI 对超参数不敏感,不需要精细调参。论文自己在局限性里坦白了 apple 这类无意义 token 也能相对直接推理涨分,只是远不如语义明确的负向提示,这个现象的可解释性还没有答案,属于留给未来的问题MTI.

主结果用两组数字就能说清。DeepSeek-R1-7B 在六个基准上的平均分从 61.70 到 70.98(τ=0.5,CFG 使用率只有 21.8%);Ling-mini-2.0 在 AIME2024 随机采样下从 60.00 到 71.25(τ=1.0,使用率只有 1.4%)。把 τ 在 0.1 到 0.5 的区间里扫,CFG 只覆盖约两成到三成的 token,六任务平均就被推过了 70。九成以上的 token 根本没碰过,这九成里包括大量低熵的中间步骤,它们不需要干预。

还有一个和"重排序"直接相关的现象。温度采样这类方法是保序的:它不改变候选 token 之间的概率排序,只是按排序采样。如果模型在某个位置把错误候选排到了第一,采样只能放大错误。MTI 在高熵处对 logits 重排序,把被压制的候选提升上来。最典型的例子是 GPQA-Diamond 上的 DeepSeek-R1-7B:贪心直接推理严重重复,只有 29.29%,MTI 纠正 top-1 logits 后排布,提到 51.52%(+22.23%)。这也解释了为什么 vanilla CFG 在 AIME2024 上常常不如直接推理:全步均匀干预把自信步骤也一起扰动,低熵区被改动反而打乱逻辑流(Qwen3-8B 上 73.34 vs 73.75)MTI.

接下来是最反直觉的一条:干预通常意味着加算力,但 MTI 不必然增加推理时间。在 Qwen3-14B 上,τ=1.5 时总延迟 3954 秒,反而低于直接推理的 4547 秒;对比之下 vanilla CFG 要 12411 秒。原因在于干预把推理轨迹导短了:错误传播被抑制,模型走的推理链更直接,自发实现 token 缩减效应。案例对比把三种行为摆在一起:

直接推理、vanilla CFG 与 MTI 的推理轨迹对比

图注:同一道分段函数题。直接推理(DI)重写分段范围上界时丢掉常数项 +2a;vanilla CFG(VC)在断言与撤回之间循环震荡,反复出现 "But wait… Let me think again…";MTI 显式做边界与不等式检查,得到正确上界与最终答案。MTI

这个案例还有另一层含义:VC 的循环震荡正是"对全部 token 施加 CFG"的典型病灶。低熵的稳定步骤被强行干预,模型在自己本来确定的地方反复自我怀疑。选择性不只是省算力,它还是避免制造新错误的方式。

最后补一个训练侧的旁证。Wang 等人(2025)在 RLVR(基于规则的强化学习)训练里发现:只对 top-20% 高熵 token 施加策略梯度,就足以维持甚至超过全 token 训练,Qwen3-32B 上 AIME'25 与 AIME'24 分别 +11.04 与 +7.71HighEntropy。解码侧只干预高熵 token 有效,训练侧只更新高熵 token 也有效,同一个现象的两侧证据,高熵局部化不是 MTI 的孤立发现。

单模型的问题到这里告一段落:找到关键 token,干预它们,效果和效率双收。但如果把推理搬进多个智能体的协作场景,等待成了新的算力黑洞。下一章看 STREAMMA 的动机。

5. 多智能体的延迟病根:下游为什么一直在干等上游写完

多智能体链式推理的现状是生成-再传递(generate-then-transfer):上游智能体必须把整段回答写完,下游才能开工。三段接力,每段都在等前一段的完整输出,端到端延迟随流水线深度线性增长,下游大部分时间闲置STREAMMA.

STREAMMA 的协议改动非常小:把传输单元从完整回答细化为推理步骤,每步一产出就立即转发给下游,上下游因此流水线并行。看时间线对比:

Serial 与 Stream 协议的时间线

图注:(a) Serial:每个智能体的四步输出攒成一块,前一块整体完成后下一块才开工,总时长 T_serial 是各块时长之和,下游全程闲置;右侧标注笑脸与 "Effective + Efficient!" 的是 (b) Stream:上游每生成一步就单独转发,下游收到一步处理一步,时间线交错,T_stream 明显短于 T_serial,图上直接标了 Time Saved(节省的时间)。STREAMMA

可以这样想:上游不必把整本剧本写完才交稿,写一页传一页,读者(下游)收到一页读一页。等待的最小单元从"整段"缩成了"一步",下游从"读完全文再开工"变成"边收边想"。类比到这里就够,协议的本质是时间线上把等待消掉。

但流式最反直觉的地方不在延迟,而在效果:为什么下游只看上游的前几步,反而答得更准?答案是步骤质量非均匀:多步推理里早期步骤通常可靠、后期步骤逐渐退化(头强尾弱)。Serial 把完整回答一股脑塞给下游,等于把易错的后半段一起传过去;Stream 让下游先吃到最可靠的前缀,等退化的后期步骤到达时,下游已经基于前缀形成了自己的独立轨迹,后期错误的影响被稀释掉。

"早期可靠、后期退化"不是想当然,Wu 等人(2025)的序列级证据直接画出了这个形状:

CoT 长度倒 U 与 RL 自发变短

图注:左面板是受控算术任务(6 层 GPT2)上准确率随 CoT 长度的曲线,呈倒 U 形,峰值随任务难度右移,超出最优长度后准确率回落;右面板是 Qwen2.5-7B 的 RL 训练:准确率上升的同时,平均生成 CoT 长度收敛变短,模型学会了更简洁的推理路径。WhenMoreIsLess

由此得到一个比"信息越多越好"更强的判断:上下文何时到达,比到达多少更重要。这正好和 MTI 共享同一个结构:推理质量不是均匀分布的,关键位置决定成败。那么问题来了,流式协议到底什么时候更快、什么时候更准、什么时候反而更差,这套边界能不能提前算出来?下一章进入 STREAMMA 的三个闭式定理。

6. 边想边说:步骤级流式凭什么更快,又什么时候更准

STREAMMA 把形式化建立在一条 A 个智能体的链上(Agent 1 → … → Agent A),每个智能体产出 S 个推理步骤;据作者所述,这是 Stream、Serial、Single 三种协议的第一次闭式联合分析。先看协议本身,算法 1(Serial)与算法 2(Stream)的三个差异STREAMMA:

维度Serial(算法 1)Stream(算法 2)
调用方式阻塞:等 LLM 返回完整回答才继续非阻塞:流式调用,逐步产出
调用次数每个智能体一次调用每个下游智能体被调用 S 次(每步一次)
KV cache无前缀复用追加步骤形成共享前缀,天然便于 KV-cache 复用

第三行值得多说一句:下游每次调用的上下文都只在前一次的基础上追加一个新步骤,前缀被反复复用,这在现代服务栈(vLLM、SGLang)里能直接转成 prefix cache 命中的效率收益,也是后面成本定理的伏笔。整体上可以把它想成一条生产流水线:上游是生产者,做完一个工件就放进传送带,下游是消费者,不等整批货就开工,最小流转单位从整箱变成单个工件。

有效性部分,把每个上游步骤 j 建模为以概率 $p_j$ 正确。一个正确步骤让下游的步骤级正确率期望上升 δ,一个错误步骤让它下降 ε,于是步骤 j 的期望贡献是:

$$\mu_j = p_j \cdot \delta - (1 - p_j) \cdot \varepsilon$$

它非负当且仅当 $p_j \geq \varepsilon/(\delta+\varepsilon) \triangleq p^$。这个 p 是整条分析的盈亏平衡线:步骤正确率高于它,把这一步传给下游是有益的;低于它,传过去反而有害。再定义三个加权平均:均匀均值 p̄、头加权均值 p_head(早期步骤权重更大)、尾加权均值 p_tail(后期步骤权重更大)。定理 1 说,三种模式的步骤级正确率排序,完全由 p_head、p̄、p_tail 相对 p* 的位置决定,一共六种情形:

定理 1 的六种情形

图注:定理 1 的六种情形。横轴是步骤序号 j,纵轴是步骤正确率 p_j,水平虚线是盈亏平衡阈值 p*;每个小图是一种 profile 形状,左侧列出对应的三种模式排序,按 Stream 优势、Serial 优势、Single 优势三组各分两档。STREAMMA

六种情形的直觉可以归成三类。Stream 优势(I.a / I.b)的条件是头强尾弱:p_head > p* 且 p_tail < p*,这是多步推理最常见的错误累积形状。Stream 让下游吃可靠前缀、稀释错误尾部;Serial 被迫把干净的头部与出错的尾部混在一起交给下游。I.a(p̄ > p*)里完整上下文总体有益,排序是 Stream > Serial > Single;I.b(p̄ < p*)里后期把整体拖到线以下,Serial 反而输给 Single,排序变成 Stream > Single > Serial。Serial 优势(II.a / II.b)的条件是 p̄ > p* 且 p_tail > p*:整体均值与尾部均值都在盈亏平衡线上方(II.b 的早期步骤位于线以下,最终靠尾部与均值翻盘),"信息越多越好"回归。其中 II.b 对应自纠正:上游早期犯错但最终改正,Stream 被迫从有害的早期步骤起步,反而垫底。Single 优势(III.a / III.b)的条件是 p_head < p* 且 p̄ < p*:题目太难,任何上游步骤都有害,单智能体不接上游上下文反而最好。

六个 case 不是纸面推演,论文用一个受控案例把它落到数字上:

定理 1 的案例研究

图注:双智能体链(S=8)的实例化。(a) Agent 1 的步骤判定:前两步正确(✓,p_j=1),第 3 到第 8 步全部错误(✗,p_j=0);(b) 代入定理 1 的公式:p̄=0.25、p_head≈0.42、p_tail≈0.04,得到头强尾弱形状,落在 I.b(Stream 优势区)。结论:Stream ✓,Serial 与 Single ✗。STREAMMA

效率部分停在直觉上就够了。定理 2 给出 Stream 相对 Serial 的延迟加速比上界,当缓存读取、前缀填充都快于解码时,它退化成经典流水线公式 $AS/(S+A-1)$:A 个智能体、每个 S 步,第一步串行穿过整个流水线,之后每一步都只被最慢的智能体卡住。定理 3 给成本比,关键结论是:Stream 虽然增加了 API 调用次数,但每个下游智能体的上下文是共享前缀,KV-cache 命中把昂贵的前缀填充替换成便宜的缓存读取。用 Claude Opus 4.6 的定价能算出两个具体数字:满命中时 Stream 比 Serial 省约 7.5%,完全不命中时反而贵约 37.5%。KV-cache 命中率是成本竞争力的决定性杠杆,这也是为什么流式方案必须和 prefix cache 基础设施绑定STREAMMA.

最后把 STREAMMA 放进通信粒度的光谱里定位:Group Think 在 token 级,同一个 LLM 内多个并发 thinker 逐 token 互相适应GroupThink;Staircase Streaming 在部分输出块级,收到每个 proposer 的第一个 chunk 就开始生成下游答案,TTFT 最多降 93%,但只论证了加速、质量维持Staircase。STREAMMA 选的是中间档:步骤级。比 token 粗、比 chunk 细,而且粒度正好对齐了"步骤正确率 profile"这个理论对象。至此两条路线各自的机制、证据和边界都齐了,最后一章把它们拼回一条主线。

7. 把两篇放回一条主线:收益的边界在哪,同行该追问什么

STREAMMA 还有第二个发现,它在实验里顺带暴露了一个新的缩放轴:把智能体数量 A 和每智能体步骤数 S 当两个独立变量,在 HMMT2026 上扫描:

步骤级缩放定律

图注:左面板是加速比随 S 的缩放:实测(实线)贴着定理 2 的理论上界 AS/(S+A−1)(虚线)走;右面板是准确率热力图,随 A 与 S 同步上升。STREAMMA

两个点值得记住。A=64、S=64 角落实测加速 26.9×,达到理论界 32.3× 的 83%;准确率在 A=64 时从 S=auto(模型自主决定步数)的 68.2% 提到 S=64 的 73.5%。注意 S=auto 的标记远低于大 S:LLM 不会自主把推理拆成长步骤序列,大 S 需要提示显式解锁。结论是步骤级缩放定律:固定智能体数、增大每智能体步数,效果与加速比同时提升,与已有的 agent-count scaling 正交、可组合STREAMMA.

成本与准确率的前沿放在一起看:

成本-准确率帕累托前沿

图注:横轴是每问成本(美元,对数刻度),纵轴是准确率。Serial×N(黑线)与 Stream×N(红线,h=0 实线、h=1 虚线)分别随投票副本数 N 增大向右上方移动;两条 Stream 曲线之间的红色阴影带是中间 KV-cache 命中率下的成本区间;Single 基线落在左下方。STREAMMA

最关键的对照:Stream×4($2.75、90.9%)以约一半的成本超过了 Serial×16($5.46、89.4%)的准确率,后者跑了 4 倍的副本;若 KV-cache 满命中,同一个 Stream×4 点从 $2.75 压到 $1.61。注意这条前沿只在 Claude Opus 4.6 与 HMMT2026 定价上测得,不要外推。加上主结果里 Claude 平均 +7.3 pp、HMMT2026 Chain 峰值 +22.4 pp,STREAMMA 同时是推理加速器和推理增强器。

但两条路线的收益都有边界,而且边界恰好对称。STREAMMA 这边,定理 1 的六种情形里只有头强尾弱(I.a / I.b)是 Stream 严格更优;自纠正(II.b)和题目太难(III)时串行或单智能体反而赢。受控扰动实验把这条边界直接量化:只破坏上游的尾部步骤,Stream 领先 Serial 最多 +24.0 pp;只破坏头部步骤,差距翻转为 −36.0 pp,被污染的前缀会困住下游STREAMMA.此外流式只适用于步骤可分解的任务,开放式创意写作不在区间内。

MTI 这边,边界是阈值 τ 的测量。τ 设太高,干预会跳过真正需要纠正的高熵 token:

τ 阈值过高的失败案例

图注:同一道题(4321/(5⁷·2⁸) 的各位数字之和)的两个 τ 配置。τ=2.5 时关键高熵位置没有受到干预,模型把分母错误展开成 2⁷·10⁷,得到终答 41;τ=2.0 时干预命中关键位置,得到正确答案 14。MTI

把它和 STREAMMA 的 p* 并排放,两条路线的收益押在同一个东西上:可测的"关键位置判据"。MTI 靠 token 熵阈值 τ 找关键位置,STREAMMA 靠步骤正确率 profile 与盈亏平衡阈值 p* 决定该不该把一步传给下游。判据测准了,少即是多成立;测不准,τ 过高跳过关键 token、profile 头部被污染时流式反而更差,收益全部反噬。

如果把这两篇放回同一个团队的探索序列,逻辑是连贯的:同一通讯作者,先在 token 级回答"算力花在哪里"(MTI,解码侧选择性干预),再在步骤级回答同一个问题(STREAMMA,协议侧流水线并行)。层次从 token 升到步骤、从单模型升到多智能体,但底层主张始终是那句:推理算力不是花得越多越好,关键位置找对,省着花反而更准。

留给同行的开放问题有两个,都适合在 talk 现场抛出去。其一,MTI 的负向提示目前是手工选择(OUTPUT ERROR,以及任务特定的 Bad Reasoning、SYNTAX ERROR),能否让它在任务分布上自适应学习,把"该压什么内容"也变成可优化的部分?其二,STREAMMA 的成本竞争力押在 KV-cache 命中率上,带工具调用的链路里搜索调用会打断前缀连续性,能否让工具调用链与 prefix cache 协同,把命中率推到接近 h=1?这两个问题一个在解码层、一个在基础设施层,正好是两篇工作各自边界的延伸。

参考文献

本专题引用的核心资料如下,建议深入学习时阅读原文:

  1. Less is More: Improving LLM Reasoning with Minimal Test-Time Intervention (MTI) — arXiv:2510.13940
  2. Streaming Communication in Multi-Agent Reasoning (STREAMMA) — arXiv:2606.05158
  3. Stay on topic with Classifier-Free Guidance — arXiv:2306.17806
  4. Classifier-Free Diffusion Guidance — arXiv:2207.12598
  5. Group Think: Multiple Concurrent Reasoning Agents Collaborating at Token Level Granularity — arXiv:2505.11107
  6. When More is Less: Understanding Chain-of-Thought Length in LLMs — arXiv:2502.07266
  7. Staircase Streaming for Low-Latency Multi-Agent Inference — arXiv:2510.05059
  8. Beyond the 80/20 Rule: High-Entropy Minority Tokens Drive Effective Reinforcement Learning for LLM Reasoning — arXiv:2506.01939
MTI 与 STREAMMA:推理算力省着花能更准,但先得找对关键几步