第一视角数据,能跨机型复用吗
人手拍的视频能不能直接喂给机械臂?这篇论文把动作拆成"共享技能"和"人类特有习惯"两半,夹爪和灵巧手都从同一份预训练里受益,但只报了相对提升,没给绝对值。
分拣线上换一台机械臂,最心疼的不是硬件钱,是之前攒的那批示范数据。换臂展、换夹爪、换相机,动作空间的含义全变了,数据几乎从头再来。而人类自己拍的第一视角视频是海量的——做饭、拆快递、整理桌面,里面全是抓取和放置。问题只有一个:人手和机械臂不是一个东西。
一、发生了什么
10 月 24 日的这篇论文(编号 2610.33685)就是冲这个缺口去的。它的判断是:从"动作执行"的角度看,人手和机器人共享同一批基本动作——伸手、抓住、放下;差别在于运动学,也就是关节怎么连、能怎么转。
据此它做了一个分解式的潜在动作表示。同一段人类视频,被拆成两部分:一部分是所有本体都能用的操作先验,另一部分是人类特有的运动习惯。预训练时只让前一部分进入策略学习,后一部分被显式地隔开,避免机器人去模仿人手腕的翻转方式。
论文的说法是:因为用的是共享动作空间,机器人能从多样的人类演示里学到可迁移的操作语义,而不被人类运动学带偏;同一份预训练对平行夹爪和灵巧手都有用。验证放在三个地方——一个仿真双臂操作基准、一个以人形机器人为对象的家居操作基准,以及真机操作任务,结论都是相对"不做预训练"的基线有一致提升。
需要注意,摘要没有给出具体数值,也没说提升了多少个百分点。提升幅度这一项,得等正文或第三方复现。
二、跟你有什么关系
做数据采购的:第一视角人类视频是目前最便宜的操作数据来源,单价远低于遥操作。这篇的意义不是"可以用",而是告诉你哪一部分能用、哪一部分要丢掉。
做灵巧手的:夹爪和灵巧手共享同一份预训练,这件事在工程上很值钱——你不必为每个末端执行器单独攒一套数据。
做产品选型的:如果你在评估"先买臂还是先攒数据",这篇提供了一个中间路线:先用公开的人类视频打底,再用少量本机数据做后训练。
三、怎么判断
读到这儿,可以顺路看 机器人学拧螺丝,为什么要拆成两步教 读完能理解机器人自主拧螺丝为何难:接触密集、发力精细、环境多变。新研究把任务拆成两段三模块,在真机上做到对齐成功率接近熟练工人,做具身操作的人可参考其分步思路。- 先确认你的动作空间能不能对齐。分解的前提是两边能映射到同一套基本动作;如果你的机器人做的是吸盘贴附这种人手没有的动作,先验的迁移价值会打折。
- 用"零人类数据"做对照。验收时要求报告两组:只用人类视频预训练的成绩,和完全不用预训练的成绩。中间那些混合配比容易掩盖真实收益。
- 看灵巧手那一路。如果你的末端是多指手,重点看人类手部姿态被抑制后,抓取是否还稳——这是分解是否成功的最直接证据。
(补一段背景,不算论文结论:第一视角人类视频这条路走了好几年,早期做法是直接从视频里回归关节角,失败的主要原因是人手自由度和机械手对不上;后来的主流思路改成学潜在动作、再用少量机器人数据对齐。这篇的位置是在"分解"这一步上做细化。)
四、三个别信的说法
「人类视频可以替代机器人数据。」 论文的对照是"有预训练 vs 没预训练",不是"人类数据 vs 机器人数据"。真正落到产线,最后一公里的本机数据仍然少不了。
「跨本体就是同一个模型通吃。」 分解表示恰恰说明两边的差异是真实存在的,只是被隔离了。忽略这层隔离、直接混训,通常会把人类的抖动学进去。
「三个基准都涨,说明通用。」 三个基准里两个是仿真,真机任务的具体设置摘要没展开。仿真里的提升幅度,不能直接换算成现场成功率。
五、一句话结论
人类视频不是免费的机器人数据,它是半成品——要先拆掉人手那一半,剩下的一半才好用。
信息来源
- arXiv 论文页:第一视角跨本体预训练框架(2026-10-24)
功能与价格以官方公告为准。本文写于 2026 年 10 月 27 日。
本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。
每周一封,只发新教程和可复制模板。不发广告,随时退订。