一从 2016 的 DGX-1 说起
Jim Fan 用一个故事开场:2016 年夏天,一个穿亮皮夹克、二头肌很大的人扛着一块大金属板进来,上面写着"致 Elon 和 OpenAI 团队——献给计算与人类的未来,我向你们呈上世界上第一台 DGX-1"。那是他第一次见到黄仁勋(Jensen)。
他借 Ilya 的名言串起 LLM 的历程:"If you believe in deep learning, deep learning will believe in you." 三次阶跃、六年时间把我们带到今天:
| 阶跃 | 代表 | 本质 |
|---|---|---|
| ① 预训练 | GPT-3 | 下一个 token 预测——学语言/代码/思想"应当如何展开"的形态 |
| ② 监督微调(SFT) | 2022 InstructGPT | 把"模拟"对齐到能做有用的事 |
| ③ 强化学习推理 | o1 | 用 RL 超越模仿学习 |
| + 自动研究 | auto research | 把整个循环加速到超越人类的程度 |
Jim Fan 半开玩笑:"LLM 那帮人在过他们一生中最爽的派对。那机器人凭什么不能也分一杯羹?"
二The Great Parallel:抄 LLM 的作业
于是他"像任何有自尊的科学家一样——抄作业,再起个新名字",称之为 The Great Parallel(伟大的平行):把 LLM 的成功公式照搬到机器人。
| LLM 配方 | 机器人 the great parallel |
|---|---|
| 模拟下一个字符串 token | 模拟下一个物理世界状态 |
| 对齐: 监督微调 | 对齐: 动作微调 action fine-tuning |
| RL 跑完最后一公里 | RL 跑完最后一公里 |
怎么玩这个终局?归结为两件事:模型策略(model strategy) 与 数据策略(data strategy)。
三模型策略:从 VLA 到 WAM
VLA 的局限:其实是"头重脚轻"的 LVA
过去三年由 VLA(视觉-语言-动作模型)主导,但 Jim Fan 指出:它们其实是 LVA——绝大多数参数都给了语言,语言是一等公民,视觉其次,动作垫底。
VLA 擅长编码知识与名词(nouns),却不擅长物理与动词(verbs)——劲使错了地方。最爱的例子:"把可乐罐移到 Taylor Swift 的照片上"——模型没见过 Taylor Swift 也能泛化,很厉害,但这并不是我们要的那种预训练能力。
第二种预训练范式:视频世界模型
他原以为第二种预训练范式会"很光辉",结果竟是"AI 视频垃圾(slop)"——直到你意识到:这些视频模型正在内部学习"模拟下一个世界状态"。
以 VEO3 的 rollout 为例:模型自己学会了重力、浮力、光照、反射、折射——没有一行是编码进去的,物理学是"在大规模预测下一团像素"中涌现的。
四世界模型会"做梦":Dreamer
如何让世界模型变得有用?做动作微调(action fine-tuning):把"所有可能未来状态的叠加态"坍缩到对真实机器人重要的那一薄层切片上。由此引出 Dreamer——一种新的策略模型,它向未来"做梦"几秒钟,并据此行动。
关键洞察:电机动作是高维连续信号,长得就像像素,所以可以和视频在同一时刻一起渲染。Dreamer 联合解码"下一个世界状态"与"下一个动作",因而能零样本(zero-shot)完成训练中从未见过的任务和动词。
这种新模型叫 WAM(World Action Model,世界动作模型)。"让我们为老朋友 VLA 默哀片刻,它服役有功,安息吧。World Action Models 万岁。"此时视觉与动作重新成为一等公民。
五数据策略:给 Teleop 默哀
第二大支柱是数据。他展示 NVIDIA 首席科学家 Bill Dally 在实验室里做遥操作(teleoperation)——"按他的薪水算,这大概是数据集里最贵的一条遥操作轨迹"。
过去三年是遥操作的"黄金时代":VR 头显、极致优化的串流延迟、像"中世纪刑具"的复杂机械臂。但它有根本物理上限:每台机器人每天 24 小时——而现实里更像每天 3 小时,还得看"机器人之神"心情好不好。
UMI / Dex-UMI:把机器人末端/外骨骼戴在人手上直接采数据
UMI(Universal Manipulation Interface,通用操作接口):把机器人末端执行器直接戴在人手上采集数据。UMI 是机器人数据领域写得最好的论文之一,并催生了两家独角兽。
他们进一步设计了与五指灵巧手一一映射的外骨骼 Dex-UMI。训练出的策略是在"零遥操作数据"上训练出来的全自动 rollout,打破了"每天 24 小时"的诅咒。
但还不够:需要机器人界的 "FSD"
机器人需要一个 FSD 等价物:让数据采集隐入背景,从而捕捉各行各业、各种经济价值劳动中人类灵巧性的全貌。
六Ego Scale 与"灵巧度的 Scaling Law"
答案是全力押注"人类第一人称(egocentric)视频",配上手部位置追踪和稠密语言标注。这就是 Ego Scale:训练数据 99.9% 来自人类第一人称视频,得到一个端到端策略,直接从相机像素映射到 22 自由度的高灵巧度机器人手。
具体配方(Ego-Exo):
- 预训练:在 21K 小时"野外"第一人称人类数据上预训练,零机器人数据,预测手部关节与手腕姿态;
- 动作微调:仅用 50 小时高精度动捕数据手套 + 4 小时遥操作(占训练混合 < 0.1%)。
结果能泛化到很灵巧的任务:分卡片、操作注射器/转移液体、还能一次示范(one-shot)就学会不同的叠衬衫策略。
论文最迷人的发现:他们发现了"灵巧度的神经 scaling law"——预训练投入小时数与最优验证损失之间是干净的 log-linear(对数线性)数学关系,正好在语言模型 scaling law 提出的 6 年之后。
七外环:把"环境"Scale 到一百万
数据策略那张图其实有两个圈,外圈是什么?是RL 环境(environments)。正如所有前沿实验室如今都花重金获取数百万个编码环境来做 RL,机器人也急需把环境规模化。
Real → Sim → Real:iPhone 成了"口袋世界扫描仪"
方法:用 iPhone 拍张照,过一条 3D 世界扫描管线抽取出所有物体,再在经典物理仿真器里自动重建——这些物体扫描后都是可交互的;然后在仿真里无限增广出各种变体,称为"数字表亲(digital cousins)"。iPhone 由此变成"口袋世界扫描仪"。
Dream Dojo:纯神经的模拟器
Dream Dojo——把视频世界模型变成全功能的神经模拟器:输入连续动作信号,实时输出下一帧 RGB 以及传感器状态。你看到的画面没有一个像素是真实的,整个过程没有物理方程、没有图形引擎,纯数据驱动地学习不同机器人的机械特性。
一句话总结:"算力 = 环境 = 数据";或者用黄仁勋的话说——"买得越多,省得越多。"
八还剩三个"成就"要解锁
他把研究比作在《文明》游戏的科技树上解锁成就。机器人还剩三个成就要解锁,解锁完"我就能退休了":
| 成就 | 含义 | 愿景 |
|---|---|---|
| ① 物理图灵测试 (约 2–3 年) | 在大量活动中,你分不清是人还是机器人在做这件事("也许喝醉的人除外")。核心是单位能量进、单位劳动出。 | 仅凭机器人现在"性感的姿势"判断,"任务量还很大"。 |
| ② 物理 API | 一整支机器人舰队,可以像任何软件一样用 API 和命令行配置,由(未来的)Opus 9.0 来编排。 | 熄灯工厂 = 原子打印机:输入 markdown 设计文件,输出完全自主组装好的产品。 |
| ③ 物理自动研究 | 机器人开始设计、改进并建造下一代的自己,远超人力所及。 | 科技树的终点站。 |
九2040:是科幻吗?
这会不会太科幻、此生能否看到?他给了一个时间锚:AI 社区花了 14 年,从 2012 年 AlexNet 第一次前向传播走到 2026 年的 AI Ascent。再加 14 年——2026 正好是 2012 与 2040 的中点。
"技术不是线性前进的,而是指数级的。所以我可以有 95% 把握说:我们会在 2040 年抵达终局的终点、科技树的尽头。而那时我们都还年轻。"
结语呼应 Ilya:"If you believe in robotics, robotics will believe in you."
"我们这一代,生得太晚,无缘探索地球;生得太早,无缘探索群星——但我们恰好生得正是时候,去解决机器人(born just in time to solve robotics)。"