
机器之心发布
近日,Manifold AI 流形空间登顶机器人学习基准 RoboDojo 榜单,超越 GPT-6-Astra、英伟达 GR00T-N1.7 等模型。

三个月前,Manifold AI 发布了具备上下文学习(In-Context Learning,ICL)能力的世界动作模型 WorldScape Policy 2.0。随后,Generalist AI 和 Skild AI 也相继官宣了各自具备上下文学习能力的具身模型 Gen-1.5 与 S1。

从一次示范中学习新任务,是机器人适应真实世界的一条路径。但模型能力的提升,还需要与系统的自我改进相结合。
围绕这一问题,Manifold AI 提出了 WorldScape R²SI(Recursive Robot Self-Improvement,机器人递归自进化)框架:通过内外双层 Agent 系统执行任务复盘、技能修正与经验积累,让有效经验进一步推动机器人模型和系统的双重自我改进。
登顶背后的两项技术支撑
RoboDojo 面向机器人操作能力,覆盖双臂操作、长程任务、记忆、泛化和精细操作等维度,要求系统在任务规定的原生动作步数限制内取得有效进展。
此次评测中,WorldScape R²SI 位列总榜第一。
这一系统背后有两项核心技术支撑:
ICL 关注机器人如何在不进行后训练的情况下,通过一次人类示范学习新任务;
R²SI 将任务执行、经验复盘与技能更新连接起来,关注机器人如何在多次执行中持续改进。
两者共同指向一个目标:让机器人更有效地调用已有能力、应对变化,减少遇到新情况时从头探索的需要。
ICL:让机器人「一次就会」
今年 7 月发布 WorldScape Policy 2.0 时,Manifold AI 提出了一个问题:
面对新任务,机器人能否不重新训练模型,仅看一遍人类示范就完成任务?
这一问题对应着机器人走向真实世界时必须面对的变化:模糊的指令、多样的操作物、多个任务的随机组合,以及在执行过程中不断变化的环境。人类能够习以为常地处理这些情况,机器人却往往需要为此付出额外的学习成本。
通常,机器人面对这些变化时,需要重新采集数据、训练或微调模型。ICL 则将人类示范作为上下文,让模型在执行阶段利用示范适应新任务,无须改变模型参数。
WorldScape Policy 2.5,一次示范泛化多种全新任务
WorldScape Policy 2.5 的能力主要体现在三个层面。
1. 动作迁移:物体规格发生变化,动作仍能复用

观看印章操作示范后,机器人能够将「盖章动作」迁移至不同颜色和形状的新印章,以及不同位置、不同材质的落款页。
这意味着,机器人需要从示范中提取能够迁移的操作方式,超越对某个特定物体或固定动作轨迹的简单记忆与模仿。
2. 技能组合:让多个操作阶段顺畅衔接

从拿起鞋子到松开鞋带,任务涉及多个相互衔接的操作阶段。机器人需要根据当前观察调整行为,协调不同阶段的操作。
这类任务考察的是,机器人能否根据新的任务要求组织已有技能,并在执行中完成阶段切换,而非仅仅重复某个单一动作。
3. 零样本学习长任务

长程任务推理的难点在于,前一步的执行结果会影响后续任务,局部偏差可能沿着任务链条累积,最终导致执行中断。
为管理长程任务中的信息,Manifold AI 在 WorldScape Policy 中引入了视觉记忆与事件记忆机制,帮助系统保留环境变化、任务进度等关键信息,为后续决策提供依据。
根据 Manifold AI 展示的实验结果,面对预训练中的已知任务,上下文学习模型的表现已显著超过对照 VLA 模型;进一步面对未知任务时,两者的成功率差距甚至达到数倍。


不同训练任务数量 ICL/VLA 模型成功率对比
R²SI:让执行经验转化为持续改进
机器人每次执行任务,都会产生可用于改进的信息。
抓取失败,可能需要调整接近方向;推移未达预期,可能需要改变接触高度;即使任务已经完成,若耗费了过多动作步数,也意味着策略仍有优化空间。如果这些经验无法被有效复用,机器人就可能在下一次执行中重复犯错。
在 Manifold AI 看来,从持续执行中积累经验、提升能力,是支撑具身智能应对真实世界任意任务的一项本质能力。

R²SI 正是围绕这一问题提出的自进化系统。它通过双层 Agent 结构,将任务执行与经验分析、修正和积累连接起来,尝试形成持续改进的闭环。
具体而言,R²SI 由内外两层 Agent 构成:内层负责执行,外层负责改进。
内层 Robot Agent 以多视角 RGB 图像、机器人本体状态、任务描述与回合记忆作为上下文进行决策,并通过按任务加载的 Skill 执行任务。
调用 reactive model(WSP)本身也是一项 Skill。加载后,Robot Agent 依据观测调用 reactive model(WSP);该模型执行一个动作块后,即交还控制权,Robot Agent 再根据新的观测决定下一步。
外层 Recursion Agent 则跨轮次复盘执行记录,修订 Skill,并以 Harness 更新的形式作用于内层。对于使用 reactive model(WSP)的任务,外层还会将执行记录组织为训练数据,训练并更新该模型。各类更新均须通过测试,才能自动发布并纳入版本管理。
任务实例:从失败诊断到技能改进
以下两个案例分别展示了 R²SI 的两条改进路径:在 push_T 任务中,外层改进 Skill;在装箱任务中,内层调用 reactive model(WSP),外层则对其进行训练。
案例一:push_T,改进 Skill
在 RoboDojo 的 push_T 任务中,机械臂需要将 T 形物体沿桌面推入目标区域,使位置、朝向与接触状态同时满足要求,并在 600 个原生动作步数内完成任务。该任务不使用 reactive model(WSP)。
首轮执行中,Robot Agent 采用的夹持方向与任务不相适配,且在平移过程中同步转向,导致物体发生明显偏转。对齐完成后,夹爪一次性释放,又使物体偏离目标位姿。本轮执行共耗用 723 步,超出预算。
外层 Recursion Agent 据此修订了 Skill:调整夹持方向;将平移与转向解耦,先平移、后分段转向;分阶段释放夹爪,并逐段检查物体是否发生偏移。修订版本通过测试后,自动发布至内层 Robot Agent。
更新后的 Skill 首次在预算内取得原生满分,耗用 596 步。经后续迭代,同一布局下的原生动作步数进一步降至 389,较 596 步下降约 35%。
此后,该 Skill 冻结,外层停止更新。内层 Robot Agent 以 RGB 图像与公开的机器人状态作为观测,在 push_T 的三种随机布局上自主执行,分别以 222、312、256 步完成任务,均取得原生满分,且均未超出 600 步预算。
案例二:装箱,调用并训练 reactive model(WSP)
当任务切换至装箱时,外层 Recursion Agent 为内层加载调用 reactive model(WSP)的 Skill。
执行中,Robot Agent 依据观测调用该模型;模型执行一个动作块后即交还控制权,Robot Agent 再根据新的观测决定下一步,如此往复。
外层 Recursion Agent 随后将执行记录组织为训练数据,并训练 reactive model(WSP)。更新后的模型继续供内层调用。由此,该模型既承担执行,也能在外层 Agent 的训练下持续改进。
这两个案例呈现了 R²SI 的基本工作方式:内层通过 Skill 执行任务,调用 reactive model(WSP)是其中一种方式;外层持续改进 Skill 与 reactive model(WSP),让试错经验沉淀为可复用的能力。


