最新 AI 论文盘点2026-03-196 篇新作看 Agent 记忆、训练提速、KV 压缩与机器人低延迟控制今天这批论文如果放在一起看主线其实非常清楚一条线是Agent / LLM memory大家开始认真讨论“长期记忆到底该怎么存、怎么复用、怎么治理”一条线是模型效率不只是继续堆算力而是从优化器、KV cache、注意力结构这些地方挤出真实收益还有一条线是机器人落地重点已经越来越偏向“少改模型、在推理阶段提速、在部署阶段加约束”这篇我挑 6 篇今天更值得看的论文尽量不重复摘要而是回答四个问题它到底在解决什么问题方法新意在哪里为什么现在值得关注它的边界和风险是什么1AgentFactory把成功经验从“提示词”升级成“可执行子代理”论文AgentFactory: A Self-Evolving Framework Through Executable Subagent Accumulation and Reuse链接https://arxiv.org/abs/2603.18000这篇的核心切入点很准现在很多 agent 的“自进化”其实只是把成功经验写成reflectiontextual memory提示词模板任务总结问题是这些东西看起来像经验但并不能稳定复用成下一次可执行的能力。AgentFactory 的思路更激进一些别只存文字经验直接把成功方案存成可执行的 subagent 代码。也就是说一个任务做成之后不只是留下一段“我下次应该这么做”的反思而是沉淀成一个能真正被再次调用、还能继续被修正的 Python 子代理。我觉得这篇论文最值得看的点不是“代码复用”本身而是它代表了一种能力沉淀范式的变化过去的 agent memory更像是“记住说法”这篇想做的是“记住做法”这对复杂任务尤其重要。因为很多任务真正难的部分不是某个事实忘了而是工具调用顺序复杂环境依赖多中间状态容易错任务流程需要稳定重复在这种情况下文本反思经常不够用而可执行子代理反而更接近“真正把能力封装下来”。我为什么觉得它值得关注因为这方向会直接影响下一代 research agent / coding agent / workflow agent能不能把一次性成功变成长期资产能不能减少每次从头规划的成本能不能形成逐步增长的能力库它的边界也很明显子代理越积越多后面会遇到检索、版本管理和冲突治理问题“能执行”不代表“泛化得好”一旦环境变了旧 subagent 可能很快过时所以我会把它看成一篇从 memory 走向 capability accumulation的论文而不是普通的“agent 记忆增强”。2Facts as First Class Objects长期记忆别老塞上下文事实应该单独建模论文Facts as First Class Objects: Knowledge Objects for Persistent LLM Memory链接https://arxiv.org/abs/2603.17781这篇其实打到了一个很现实的问题现在很多长期记忆系统说到底还是在做一件事——把事实塞进 prompt。短期内这么做当然方便但一上规模就会出现三个老毛病容量上限压缩摘要带来的事实丢失多轮 compaction 之后目标逐渐漂移这篇论文提出的替代方案叫Knowledge ObjectsKOs你可以理解为把事实当成独立对象存起来而不是继续混在自然语言上下文里。作者给出的实验结果很扎眼in-context memory 在窗口内可以表现很好但一旦进入真实生产条件容量、压缩和漂移问题会迅速暴露KOs 在准确率、成本和多跳推理上都更稳其中一个非常有意思的结论是compaction loss 很可能不是某个模型的问题而是 prompt-memory 这种范式本身的问题。这件事我很认同。因为长期记忆系统一旦真的跑起来问题往往不是“模型记不住一句话”而是哪些事实应该长期保留哪些约束不能被摘要吃掉哪些记忆需要 O(1) 检索而不是靠 embedding 近似召回为什么值得关注因为它把“memory”从一个模糊概念拆成了更接近系统工程的对象prompt memory 负责临时工作区object memory 负责稳定事实层不同 retrieval 机制可以分工这对个人助理、项目协作 agent、多轮任务代理都很关键。它的边界是什么事实对象化之后知识表达的粒度设计会很难复杂依赖关系怎么建模不是简单 tuple 就能解决事实冲突、版本更新、时效性仍然是硬问题但无论如何这篇已经把一个重要信号说得很清楚长期记忆不该继续只靠“更长 prompt”硬撑。3MUD优化器创新还没结束训练提速还有硬骨头可啃论文Beyond Muon: MUD (MomentUm Decorrelation) for Faster Transformer Training链接https://arxiv.org/abs/2603.17970这篇属于那种不一定最花哨但工程上非常值得盯的论文。它在解决的问题是怎么在不明显牺牲收敛质量的前提下把 Transformer 训练的 wall-clock 再压下去。过去这段时间像 Muon 这类正交化动量优化器已经让很多人意识到AdamW 不一定是终点优化器里还有不少结构性收益可以拿但 Muon 一类方法也有现实问题需要较重的矩阵运算开销很依赖硬件理论上好看工程上不总是划算MUD 的思路就是用更便宜的 decorrelation / whitening surrogate 去替代更重的极分解近似。直白点说它不是否定 Muon 的方向而是在问能不能用更便宜的办法拿到接近甚至更好的 time-to-perplexity。结果也挺硬对 AdamW、Muon 都有 wall-clock 优势峰值 tokens/s 能有 1.3-2.6x 提升某些设定甚至接近 3x为什么我觉得它值得看因为这类工作特别容易被低估。现在大家注意力常常都在更大模型更长上下文更强推理但真正落到训练系统时优化器改良往往意味着非常直接的收益更低成本更短实验周期更快 ablation更现实的中型团队可用性边界也得说清楚不同硬件上收益可能差很多训练提速不一定自动转化为所有任务都更优优化器换代的迁移成本不低工业界 adoption 往往很慢但如果你关心训练基础设施这篇比很多“又大一点”的论文更值得看。4CAREKV cache 不变的前提下把注意力结构改得更强论文CARE: Covariance-Aware and Rank-Enhanced Decomposition for Enabling Multi-Head Latent Attention链接https://arxiv.org/abs/2603.17946这篇的重点在 inference efficiency而且切得很准。现在大家对注意力结构优化已经不只是关心“能不能压缩”而是更关心能不能在不增加 KV cache 成本的前提下把表达能力救回来。这篇论文讨论的是把已有注意力模块转换成 MLAmulti-head latent attention时传统低秩近似为什么经常不够好。作者指出几个关键问题只拟合权重矩阵不关心激活分布忽视 activation covariance各层统一分配 rank太粗暴CARE 的改进点就在这里activation-aware factorization非均匀 rank 分配在固定 KV 宽度下做更合理的映射最重要的一点是它不是单纯追求“数学近似更漂亮”而是明确追求在 matched KV budget 下保住 attention fidelity 和下游准确率。为什么值得关注因为这一类工作会越来越重要。接下来大模型部署的真正矛盾之一就是大家想要更长上下文、更强推理但推理显存、KV cache、延迟成本始终摆在那里所以谁能在 KV budget 不变时把表现拉回来谁就真的有部署价值。局限在哪这类方法通常对已有架构和权重分布比较敏感转换效果未必能跨模型统一复用后续还需要少量 fine-tune 才能完全恢复性能但从方向上说这篇很代表一种趋势推理优化不再只是“压缩”而是更精细地利用结构和统计信息。5Specification-Aware Distribution Shaping机器人基础模型开始补“形式化约束”这块短板论文Specification-Aware Distribution Shaping for Robotics Foundation Models链接https://arxiv.org/abs/2603.17969机器人基础模型最近一个越来越明显的问题是它们会做事了但不一定守规矩。尤其在真实部署里机器人面对的往往不是一句自然语言命令就完了还要满足很多时序和安全约束比如必须先去 A 再去 B在某段时间内不能进入危险区要持续满足安全边界任务完成顺序不能乱这篇工作做的就是在不改预训练机器人基础模型参数的前提下给它的 action distribution 加一层specification-aware shaping。而且不是软约束意义上的“尽量满足”而是显式引入 STLSignal Temporal Logic约束。这意味着什么意味着它尝试把“会执行自然语言任务”的能力往“满足正式任务约束”的方向推一步。这篇为什么我觉得重要因为它碰的是机器人 foundation model 一个迟早要补的缺口数据驱动模型擅长学行为但不天然擅长满足形式化安全要求。如果后面机器人真的进入更高风险、更复杂流程的场景这类方法会非常关键。它的边界也很现实依赖 forward dynamics 推理复杂系统里计算开销可能不小形式化约束设计本身有门槛真实环境偏差大时理论满足和实际满足之间可能有缝但从系统观上看这篇非常值得跟它说明机器人基础模型下一步不是只追更大而是要学会在既有模型上叠加可验证约束层。6ProbeFlowVLA 低延迟控制重点开始从骨干模型移到 action head论文ProbeFlow: Training-Free Adaptive Flow Matching for Vision-Language-Action Models链接https://arxiv.org/abs/2603.17850这篇是今天机器人方向里我最喜欢的一篇之一。原因很简单它抓住了一个非常实际、但过去经常被忽略的瓶颈。现在很多 VLA 模型为了拿更强动作生成能力会配 flow matching action head。问题是这个 action head 常常需要多步 ODE 求解推理延迟很高。过去很多优化工作都在加速 backbone但真正拖后腿的地方其实可能在 action decoding。ProbeFlow 的思路非常讨巧不重新训练模型不改 backbone直接在推理阶段根据轨迹几何复杂度动态决定需要多少 integration steps这使得它在 MetaWorld 上能把 action decoding 平均步数从 50 降到 2.6解码加速 14.8x端到端延迟降 2.8x而且基本不伤成功率。为什么它很值得看因为它代表了一种很重要的工程心态真正阻碍部署的不一定是模型主干不够强而可能是某个被忽略的推理子模块太慢。对机器人来说这个判断尤其关键。因为物理控制里晚一点就是晚一点延迟上去了稳定性就可能掉真实硬件不会因为你理论上更优就等你它的边界是什么这是 inference-time 提速不是底层能力突破适用性和收益会依赖具体 action head 结构一旦任务轨迹复杂度估计失真可能会出现不稳定行为但即便如此这类 training-free acceleration 在现实里非常有价值。因为它特别适合已有模型不能重训线上系统需要快速提速硬件预算有限今天这 6 篇放一起能看出什么趋势如果把它们放一起看我觉得至少有 4 个信号非常明显。1Agent 的问题正在从“会不会做”转向“怎么长期积累能力”AgentFactory 和 Facts as First Class Objects 都在说明一件事未来 agent 拼的不只是单次任务成功率而是能不能长期保留有效能力能不能稳定调用历史事实能不能避免 memory 漂移和能力碎片化2模型效率创新越来越偏“结构层”和“系统层”MUD、CARE 这类工作都不是简单做蒸馏或量化而是在更底层的位置挖潜优化器结构激活统计KV budget 分配注意力重参数化这说明效率竞争进入更深水区了。3机器人基础模型正在补控制与约束而不是只补数据规模Specification-Aware Distribution Shaping 和 ProbeFlow 都很典型一个解决“守不守规则”一个解决“来不来得及执行”这比单纯再训大一点模型更像真实部署会碰到的问题。4“少改模型多改推理与外层系统”会越来越流行今天很多值得看的工作都不强调重训一个新大模型而是改 memory 组织方式改执行单元复用方式改优化器改 MLA 转换流程改推理阶段 action shaping这类方法短期可能没那么“震撼”但往往更容易真正落地。如果你时间有限我建议优先看哪几篇第一梯队最值得细看AgentFactory如果你关心 agent capability accumulation这篇很值得跟Facts as First Class Objects如果你关心长期记忆系统这篇很关键ProbeFlow如果你关心 VLA 和真实机器人部署这篇非常实用第二梯队看系统趋势MUD训练效率党必看CARE长上下文和推理部署党必看Specification-Aware Distribution Shaping机器人安全与形式化约束方向值得跟结语今天这批论文给我的一个强烈感觉是AI 系统正在进入一个更讲“结构化工程能力”的阶段。这里说的结构化不只是模型结构而是记忆怎么组织能力怎么沉淀训练怎么提速KV cache 怎么精打细算机器人动作怎么更快地产生基础模型怎么满足形式化约束过去几年很多工作是在证明“模型能不能做到”。而今天这些论文更像是在回答如果真要让系统长期运行、稳定部署、持续变强到底该怎么设计它的内部结构。这类论文未必每篇都会立刻爆火但它们很可能会更真实地影响下一代 agent、推理系统和机器人系统的样子。