跳到主内容
爱游戏体育平台

自进化AI新突破,Meta提出「路由式持续学习」新架构:API成本可降低72%

2026-11-02 · 爱游戏体育平台

面对类似任务时,让智能体互相利用各自积累的经验,是一个很自然的想法。但遗憾的是,没有一种经验保存方式能在所有情况下都表现出色,也无法预先知道某段经验会对哪些未来任务有所帮助。

对于持续运行的智能体系统而言,过往的轨迹确实能减少后续任务的试错次数,但一旦不同任务的经验混合在一起,就可能产生干扰;如果将所有历史轨迹原封不动地保留,细节确实最完整,但这会增加上下文和 API 成本;而如果将所有经验压缩成统一的记忆形式,又可能丢失仅对特定任务有用的信息。

为此,Meta FAIR 团队提出了“路由式持续学习”(Routed Continual Learning,Routed CL)。这一架构将历史轨迹划分为不同的簇,并为每个簇单独维护一套记忆。在每次运行之前,基于 LLM 的路由器会根据当前问题、可用记忆系统的说明以及现有簇的摘要,先判断该任务与哪一类历史经验最接近,然后决定是复用某个现有簇,还是创建一个新簇。

论文链接:https://arxiv.org/abs/2610.38796

该架构具备两个核心特点。其一是透明部署:它可以无缝集成到现有的智能体系统中,无需各智能体之间协同,也不改变原有的运行方式;其二是路由:Routed CL 不仅决定哪些任务应该共享经验,还会从固定的记忆系统库中选择经验的保存方式。有些任务适合保留原始轨迹,有些任务更适合提炼可复用的推理策略,而另一些任务可能需要结构化的数值状态。因此,所有任务不必使用同一种记忆表示。

他们还设计了上下文记忆适配器(Context Memory Adapter),用于连接记忆系统和智能体。它会在任务开始前,将对应簇中的记忆写入智能体的上下文,并在任务完成后,用当前轨迹更新该簇。

他们在包含多种任务的任务流上评估了这套架构。评测涵盖了六个 CL-Bench 任务中的 301 个实例,以及 τ³-Bench 中的 97 个银行业务实例,每个实例都是一场多轮客服对话。来自不同来源的实例被交错排列,系统需要在没有显式实例标签的情况下处理它们。实验使用了 Gemini 3.7 Flash、GPT-5.6 Sol、Opus 4.7 和 Opus 5 四个语言模型,每个模型都重复运行了 5 次,以降低随机性的影响。

结果显示,与仅使用单一全局上下文学习历史的 Global ICL 相比,Routed CL 的归一化奖励提升幅度相当于最大可达归一化奖励的 15% 到 30%,并且估算的 API 成本降低了 65% 到 72%。它的平均归一化奖励也高于仅 ICL 聚类的方案。

在四个模型上,Routed CL 的平均归一化奖励均高于 Stateless ICL、Global ICL 和 Routed ICL 三种对照方案。据此,他们认为,持续学习的关键并不在于记住越多越好,而是需要同时做出两个判断:经验以什么形式保留,以及哪些经验值得放在一起复用。

结果还显示,Global ICL 在不同评测设置中的表现差异很大。在原始 CL-Bench 中,各类任务是分别运行的,此时 Stateless ICL 曾是表现最强的方案之一;但当多个任务被交错到同一条流中时,Global ICL 相比无状态条件的平均归一化奖励仅增加了 0.015。这说明,全局记忆真正的问题并不只是容量有限,而是不同任务的经验会相互干扰。

当然,这并不意味着 Routed CL 已经解决了持续学习的所有问题。他们承认,目前的实验是按顺序处理任务的,每次 rollout 使用一个语言模型作为执行者,并同时承担记忆系统中所有由模型中介的角色。虽然系统在设计上已经考虑了不同记忆簇之间的隔离和更新一致性,但尚未评估并发更新、读取到旧版本状态,以及不同模型之间复用同一簇状态的情况。

他们同时指出,未来一个任务或许可以同时调用多个记忆簇;一次新的运行轨迹,也可以同时更新多个簇,甚至以不同形式写入记忆。

更多技术细节,详见原论文。

更多文章