Are Latent Reasoning Models Easily Interpretable?

tags: #Interpretability #Latent-Reasoning #Coconut #CODI #LLM source: arXiv:2604.04902（COLM 2026 会议论文，v2 修订于 2026-08-10） 作者：Connor Dilgren、Sarah Wiegreffe 来源摘要自 ai-knowledge-base v4 2026-08-18 采集

核心结论

论文研究了两种 SOTA 潜在推理模型（LRM，即 Coconut 和 CODI 类架构）的可解释性，核心发现三条 (Fact)：

1. 逻辑任务中 latent tokens 几乎不必要：在逻辑推理数据集上，LRM 即使完全不使用潜在推理 token 也能产生相同的最终答案。这一"推理 token 利用不足"现象，部分解释了为什么 LRM 不能持续优于显式推理方法，并对既有工作中这些 token 的作用提出质疑。
2. 数学任务中可解码标准推理轨迹：当 latent reasoning tokens 对性能是必要的时候，对于正确预测的实例，有 65-93% 可以解码出正确的（gold）推理轨迹——说明 LRM 往往实现的是预期中的标准解法，而非不可解释的推理过程。
3. 无需 gold trace 的解码方法：论文提出一种方法，在不知道 gold reasoning trace 的前提下，从 latent tokens 解码出经验证的自然语言推理轨迹。结果显示：大多数正确预测能找到验证轨迹，而只有少数错误预测可以。

研究意义

• 挑战普遍假设：AI 社区普遍认为 LRM 因不在自然语言中推理而难以监控，本文用证据表明当前 LRM 大部分编码的是可解释过程 (Fact)
• 可解释性 = 正确性信号：能够解码出验证轨迹与预测正确性高度相关，即可解释性本身可作为预测正确性的信号，为推理时监控提供新思路 (Fact)
• 成本优势背景：LRM 的吸引力在于相对显式推理模型的低推理成本，以及并行探索多条推理路径的理论能力，但可解释性代价一直被认为是主要短板 (Fact)

局限与反方证据

• 研究仅覆盖两种 SOTA LRM（Coconut、CODI 类），结论外推到其他潜在推理架构（如更复杂的 latent thought 空间模型）需谨慎 (Inference)
• 逻辑任务上 latent token 的"不必要性"并不意味着所有场景都不需要——数学任务中 token 就是必要的，任务类型差异显著 (Fact)
• 65-93% 的解码成功率区间较大，意味着在部分正确预测实例上仍无法解码出轨迹 (Fact)

与知识库的关联

• 与 Verifiable-Rewards-Factual-QA 同属推理可信度主题：前者关注奖励可验证，本文关注推理过程可解释
• LongTraceRL、MTP-Multi-Token-Prediction 等概念页面涉及推理路径与 token 效率，本文为"推理 token 是否真正被利用"提供了实证视角
• 对 Agent 应用的意义：LRM 若用于 Agent 推理内核，其可解释性信号可用于 Agent 自监控（何时该置信、何时该重试）(Inference)

可执行建议

1. 评估 LRM 用于端侧推理：LRM 低推理成本特性契合移动端场景，但需按任务类型（逻辑 vs 数学）评估实际收益，避免为"省 token"牺牲可解释性
2. 借鉴可解释性监控：将"能否解码验证轨迹"作为 Agent 推理质量的辅助信号，与 Verification-Loops 结合设计自校验机制
3. 跟进 COLM 2026 后续工作：关注该团队是否将解码方法扩展到更多 LRM 架构