一从 2016 的 DGX-1 说起

Jim Fan 用一个故事开场:2016 年夏天,一个穿亮皮夹克、二头肌很大的人扛着一块大金属板进来,上面写着"致 Elon 和 OpenAI 团队——献给计算与人类的未来,我向你们呈上世界上第一台 DGX-1"。那是他第一次见到黄仁勋(Jensen)。

他借 Ilya 的名言串起 LLM 的历程:"If you believe in deep learning, deep learning will believe in you." 三次阶跃、六年时间把我们带到今天:

阶跃代表本质
① 预训练GPT-3下一个 token 预测——学语言/代码/思想"应当如何展开"的形态
② 监督微调(SFT)2022 InstructGPT把"模拟"对齐到能做有用的事
③ 强化学习推理o1用 RL 超越模仿学习
+ 自动研究auto research把整个循环加速到超越人类的程度

Jim Fan 半开玩笑:"LLM 那帮人在过他们一生中最爽的派对。那机器人凭什么不能也分一杯羹?"

二The Great Parallel:抄 LLM 的作业

于是他"像任何有自尊的科学家一样——抄作业,再起个新名字",称之为 The Great Parallel(伟大的平行):把 LLM 的成功公式照搬到机器人。

LLM 配方机器人 the great parallel
模拟下一个字符串 token模拟下一个物理世界状态
对齐: 监督微调对齐: 动作微调 action fine-tuning
RL 跑完最后一公里RL 跑完最后一公里

怎么玩这个终局?归结为两件事:模型策略(model strategy) 与 数据策略(data strategy)。

三模型策略:从 VLA 到 WAM

VLA 的局限:其实是"头重脚轻"的 LVA

过去三年由 VLA(视觉-语言-动作模型)主导,但 Jim Fan 指出:它们其实是 LVA——绝大多数参数都给了语言,语言是一等公民,视觉其次,动作垫底。

VLA 擅长编码知识与名词(nouns),却不擅长物理与动词(verbs)——劲使错了地方。最爱的例子:"把可乐罐移到 Taylor Swift 的照片上"——模型没见过 Taylor Swift 也能泛化,很厉害,但这并不是我们要的那种预训练能力。

第二种预训练范式:视频世界模型

他原以为第二种预训练范式会"很光辉",结果竟是"AI 视频垃圾(slop)"——直到你意识到:这些视频模型正在内部学习"模拟下一个世界状态"。

以 VEO3 的 rollout 为例:模型自己学会了重力、浮力、光照、反射、折射——没有一行是编码进去的,物理学是"在大规模预测下一团像素"中涌现的。

四世界模型会"做梦":Dreamer

如何让世界模型变得有用?做动作微调(action fine-tuning):把"所有可能未来状态的叠加态"坍缩到对真实机器人重要的那一薄层切片上。由此引出 Dreamer——一种新的策略模型,它向未来"做梦"几秒钟,并据此行动。

关键洞察:电机动作是高维连续信号,长得就像像素,所以可以和视频在同一时刻一起渲染。Dreamer 联合解码"下一个世界状态"与"下一个动作",因而能零样本(zero-shot)完成训练中从未见过的任务和动词。

这种新模型叫 WAM(World Action Model,世界动作模型)。"让我们为老朋友 VLA 默哀片刻,它服役有功,安息吧。World Action Models 万岁。"此时视觉与动作重新成为一等公民。

五数据策略:给 Teleop 默哀

第二大支柱是数据。他展示 NVIDIA 首席科学家 Bill Dally 在实验室里做遥操作(teleoperation)——"按他的薪水算,这大概是数据集里最贵的一条遥操作轨迹"。

过去三年是遥操作的"黄金时代":VR 头显、极致优化的串流延迟、像"中世纪刑具"的复杂机械臂。但它有根本物理上限:每台机器人每天 24 小时——而现实里更像每天 3 小时,还得看"机器人之神"心情好不好。

UMI / Dex-UMI:把机器人末端/外骨骼戴在人手上直接采数据

UMI(Universal Manipulation Interface,通用操作接口):把机器人末端执行器直接戴在人手上采集数据。UMI 是机器人数据领域写得最好的论文之一,并催生了两家独角兽。

他们进一步设计了与五指灵巧手一一映射的外骨骼 Dex-UMI。训练出的策略是在"零遥操作数据"上训练出来的全自动 rollout,打破了"每天 24 小时"的诅咒。

但还不够:需要机器人界的 "FSD"

机器人需要一个 FSD 等价物:让数据采集隐入背景,从而捕捉各行各业、各种经济价值劳动中人类灵巧性的全貌。

六Ego Scale 与"灵巧度的 Scaling Law"

答案是全力押注"人类第一人称(egocentric)视频",配上手部位置追踪和稠密语言标注。这就是 Ego Scale:训练数据 99.9% 来自人类第一人称视频,得到一个端到端策略,直接从相机像素映射到 22 自由度的高灵巧度机器人手。

具体配方(Ego-Exo):

  • 预训练:在 21K 小时"野外"第一人称人类数据上预训练,零机器人数据,预测手部关节与手腕姿态;
  • 动作微调:仅用 50 小时高精度动捕数据手套 + 4 小时遥操作(占训练混合 < 0.1%)。

结果能泛化到很灵巧的任务:分卡片、操作注射器/转移液体、还能一次示范(one-shot)就学会不同的叠衬衫策略。

论文最迷人的发现:他们发现了"灵巧度的神经 scaling law"——预训练投入小时数与最优验证损失之间是干净的 log-linear(对数线性)数学关系,正好在语言模型 scaling law 提出的 6 年之后。

七外环:把"环境"Scale 到一百万

数据策略那张图其实有两个圈,外圈是什么?是RL 环境(environments)。正如所有前沿实验室如今都花重金获取数百万个编码环境来做 RL,机器人也急需把环境规模化。

Real → Sim → Real:iPhone 成了"口袋世界扫描仪"

方法:用 iPhone 拍张照,过一条 3D 世界扫描管线抽取出所有物体,再在经典物理仿真器里自动重建——这些物体扫描后都是可交互的;然后在仿真里无限增广出各种变体,称为"数字表亲(digital cousins)"。iPhone 由此变成"口袋世界扫描仪"。

Dream Dojo:纯神经的模拟器

Dream Dojo——把视频世界模型变成全功能的神经模拟器:输入连续动作信号,实时输出下一帧 RGB 以及传感器状态。你看到的画面没有一个像素是真实的,整个过程没有物理方程、没有图形引擎,纯数据驱动地学习不同机器人的机械特性。

一句话总结:"算力 = 环境 = 数据";或者用黄仁勋的话说——"买得越多,省得越多。"

八还剩三个"成就"要解锁

他把研究比作在《文明》游戏的科技树上解锁成就。机器人还剩三个成就要解锁,解锁完"我就能退休了":

成就含义愿景
① 物理图灵测试
(约 2–3 年)
在大量活动中,你分不清是人还是机器人在做这件事("也许喝醉的人除外")。核心是单位能量进、单位劳动出。仅凭机器人现在"性感的姿势"判断,"任务量还很大"。
② 物理 API一整支机器人舰队,可以像任何软件一样用 API 和命令行配置,由(未来的)Opus 9.0 来编排。熄灯工厂 = 原子打印机:输入 markdown 设计文件,输出完全自主组装好的产品。
③ 物理自动研究机器人开始设计、改进并建造下一代的自己,远超人力所及。科技树的终点站。

九2040:是科幻吗?

这会不会太科幻、此生能否看到?他给了一个时间锚:AI 社区花了 14 年,从 2012 年 AlexNet 第一次前向传播走到 2026 年的 AI Ascent。再加 14 年——2026 正好是 2012 与 2040 的中点。

"技术不是线性前进的,而是指数级的。所以我可以有 95% 把握说:我们会在 2040 年抵达终局的终点、科技树的尽头。而那时我们都还年轻。"

结语呼应 Ilya:"If you believe in robotics, robotics will believe in you."

"我们这一代,生得太晚,无缘探索地球;生得太早,无缘探索群星——但我们恰好生得正是时候,去解决机器人(born just in time to solve robotics)。"