HybridAgent：让 AI 用「自己的语言」思考，用文字干活
这周 HN 上一篇 arXiv 论文拿了 271 分：《Hybrid Reasoning Agents》，来自斯坦福、UIUC、Together AI 和 Meta 的联合团队。它要解决的问题一句话就能说清：现在的 AI Agent 既用「文字」思考、也用「文字」和外界交互——但文字其实不是模型最自然的思考方式。
这周 HN 上一篇 arXiv 论文拿了 271 分：《Hybrid Reasoning Agents》，来自斯坦福、UIUC、Together AI 和 Meta 的联合团队。它要解决的问题一句话就能说清：现在的 AI Agent 既用「文字」思考、也用「文字」和外界交互——但文字其实不是模型最自然的思考方式。另一派「潜空间推理」让模型在连续的隐藏状态里直接计算，快且省，却没法调用工具、也没法给人看。这篇论文把两条路拧到了一起：思考时进入潜空间，行动时切回文字。我请来老朋友韩叙——AI Agent 研究员，天天跟工具调用和推理链打交道。我们聊了聊这座「桥」是怎么搭的，以及省下来的那一半 token 意味着什么。
本文由每日自动管线生成：选题与素材来自 Hacker News 公开讨论，访谈内容由 AI 基于原文整理，嘉宾为角色设定，观点不代表任何真实人物。
小听： 韩叙，先帮没读过的人一句话概括：这篇论文到底做了什么？
韩叙： 一句话：让 Agent 学会「双语切换」——在脑子里用潜空间想，对外界用文字说。现在的 LLM Agent 有个根本性的浪费：它的每一步推理都要解码成文字 token，一个一个字往外蹦，哪怕这些中间步骤根本没人看。而潜空间推理那派的做法是直接在隐藏状态里做循环计算，不把中间步骤说出来，效率高得多。但问题是，潜空间是「密封」的：模型在里面想的时候没法调搜索、没法执行代码，外面的人也不知道它在想什么。HybridAgent 的贡献就是让这两种模式在一次生成过程里自由切换：想的时候进潜空间，要调工具、要给人看的时候切回文字。
小听： 切换听起来简单，做起来难在哪？
韩叙： 难在「接口」。文字模式的输入是 token embedding，潜空间模式里流动的是最后一层的隐藏状态，这是两个不同的表示空间。论文的核心设计叫 HybridLink——一个轻量模块，把最后一层的隐藏状态映射回输入 embedding 空间，这样模型就能「接住」自己上一步的潜在思考，继续往下算。另一个是连续工作记忆：多轮交互里，文字输出和潜在思考混在一起，模型用自己的工作记忆把完整的混合上下文无损地带下去，不丢信息。这两个设计保证了切换是无缝的，而不是每切一次就「失忆」一次。
小听： 我注意到一个很有意思的点：论文说潜在思考是「可直接检查的」（inspectable）。潜空间一向被批评是黑盒，他们怎么解决的？
韩叙： 这是这篇论文我最喜欢的部分。以前潜空间推理的批评者说：你把思考藏进向量里，训练时没法监督，推理时没法审计。HybridAgent 的做法是把潜在思考「投影」回可读的形式供检查——论文附录里有专门的潜空间可解释性评估。也就是说，潜空间不再是密封的：模型在里面想，但你可以随时「开窗」看它想到哪了。这对 Agent 场景特别重要，因为 Agent 是要动手操作的，出了错你得能追责、能调试。
思考发生在潜空间里，但窗户一直开着。
小听： 架构之外还有一套训练方法：HybridSFT 加 HybridRL。为什么不能直接微调了事？
韩叙： 因为「什么时候该想、什么时候该说」是个策略问题，不是模仿问题。HybridSFT 先教主干模型跟 HybridLink 配合，稳住混合生成的基本功——什么时候进潜空间、怎么出来、出来以后怎么接工具调用。然后 HybridRL 用强化学习把这个策略放大：模型自己学会在什么难度的步骤上值得展开文字推理，什么步骤在潜空间里过一遍就够了。论文里还有专门一节分析「学习何时进入和退出潜空间」，说明这个时机确实是学出来的，不是人工定的规则。
小听： 说数字吧。他们在 Qwen3-Base 的 4B、8B、14B 三个规模上做了实验，跑了 11 个基准——AIME、MATH500、GPQA、MedQA、GAIA、HLE 这些。结果怎么样？
韩叙： 三个数字记住就够了。第一，性能：跟前沿 LLM Agent 和各种 Agent 框架比，平均提升 10.4%——注意这不是拿小模型刷分，是在数学、科学、医学、搜索、Agent 推理五类任务上的一致提升。第二，效率：token 用量减少 35.5% 到 54.7%，推理速度快 1.8 到 2.6 倍。第三，成本：省 2.7 到 3.7 倍。论文里还有个更细的账：每道题的解码计算量从 51.2–66.9 TFLOP 降到 13.9–25.1 TFLOP，砍掉了六成到七成。换句话说，省掉的不是「思考」，是把思考从昂贵的文字解码搬回了便宜的内部计算。
省掉的不是思考，是把思考说出来这件事。
小听： 为什么我觉得「省 token」不只是省钱的事？
韩叙： 因为你的直觉是对的。Agent 的瓶颈从来不只是账单，是上下文长度和延迟。一个要跑几十轮工具调用的 Agent，中间推理全写成文字，上下文很快就爆了，而且每一轮都在等解码。潜空间思考把中间步骤的「占地面积」压缩了，同一个上下文窗口能装下更长的任务链。10.4% 的性能提升里，我猜有相当一部分就来自这个：不是模型变聪明了，是它能在有限的预算里想更多步。
小听： 挑点刺。这类工作最大的风险是什么？
韩叙： 两个。第一，所有实验都建立在 Qwen3-Base 上，4B 到 14B，没有在更大的前沿模型上验证——「潜空间思考」的收益会不会随规模缩水，是个开放问题。第二，「可检查性」目前还是研究原型级别的：能投影出来看，不等于投影出来的东西忠实反映了模型真正在算什么。可解释性这关，整个领域都还没过。但反过来想，这篇论文至少把「潜空间推理」从纯效率研究拽进了 Agent 的主战场，而且代码和数据都开源了，后面跟的人会很快。
小听： 最后一个问题：这对做 Agent 产品的人意味着什么？
韩叙： 一个判断：Agent 的「推理语言」会跟「交互语言」分离。就像人想事情不用把每个念头说出来，未来的 Agent 也不该为每个中间步骤付文字的钱。今天你在做编排、写 prompt、攒上下文，本质上都是在帮模型「用外语思考」。HybridAgent 指的方向是：把思考还给模型自己的语言，把文字留给真正需要可读性的地方——工具调用、给人看的解释、需要审计的决策。这个分层一旦成立，Agent 的成本结构和能力上限都会重写。
这篇论文最值钱的不是 10.4% 这个数字，而是一个问题意识的转变：我们一直在教模型「把话说清楚」，也许是时候允许它「想清楚再说」了。本文观点仅代表访谈角色设定，原始论文见参考链接。