Index
arXiv
EgoCentric,iPhone 固定在头上,录制自己叠衣服、洗碗、做饭的画面
Micro1 Scale AI、Encord等数据公司都在招募自己的数据采集大军,DoorDash 则付钱给外卖员拍摄做家务的视频。
遥操作、UMI、手套/外骨骼
teleoperated data
- VR-based teleoperation
- isomorphic arms
简智、鹿明等具身数据服务商,智域基石新成立、星忆科技新成立
BeingBeyond 率先开辟了「大规模人类视频驱动具身学习」的技术路线。NVIDIA 的 EgoScale、Generalist AI 的 GEN-1 等海外工作陆续跟进
智在无界认为,一个理想的世界模型应同时具备两个核心能力:物理世界理解(Physical Understanding)与物理交互(Physical Interaction)。
智在无界构建了全球少有的 20 万小时人类视频数据集
Being-H0.7
gen-1 业内信息透露,这一轮能力跃迁的底层支撑,依赖于一套全新的数据与仿真基础设施体系,其中光轮智能也作为基础设施体系的关键参与者发挥了作用。
光轮智能 CEO 谢晨的访谈《机器人数据的综述:新时代的石油》
如果是具身的话,可能现在最关键的问题是评测,尤其是规模化的评测。 在仿真中建立一套类似自动驾驶的「影子模式」评价体系,是具身智能跨越预训练时代的唯一路径。 只有构建本体无关的数据闭环,才能真正打破硬件采集的物理限制,为通用大模型的训练提供海量且多样的燃料。 我可以很肯定地说,仿真对于机器人是一个必备条件,没有仿真这件事肯定做不成。」
他还进一步指出,如果要做大规模、可重复的评测,且同时在千百个不同场景中随时验证算法演进,「我认为唯一的方案只有通过仿真。」 以数据、仿真与评测为核心,驱动模型持续学习的基础设施系统供应商。
开普勒机器人正式发布「国内首个原生全感知力触数采系统」,以力触觉为核心的全感知物理交互(在接触中理解世界)
再看数采路径。
过去一段时间,不少团队走的是「多场景铺开」的横向数采思路,想一口气覆盖家庭、服务、工业等各种场景,做出通用能力。然而,落到工业场景,这条路往往走不通,原因是多方面的:数据太散、针对性太弱;与真实产线的需求对不上;投入很大,转化很有限,横向数采的工业场景 ROI 低至 15%。
当前很多数据还是靠人工遥操作一点点采,单采集员单日仅能采集 100 条有效数据,效率低且成本高;不同项目之间的标准也不统一,数据很难复用。看起来每个项目都在积累数据,但形不成一个可以持续产出的数据体系,模型也就很难滚动迭代起来。
以上几个问题叠加在一起,就导致了今天的局面:数据既不够多,也不够好。 过去以视觉为主的数据所带来的信息缺失,使得模型难以全方位理解复杂物理交互的关键细节。
视觉可以告诉机器人「东西在哪儿、长得什么样」,但是一旦进入真实操作,很多关键问题是看不见的,比如有没有接触、接触是否稳定、力度是否合适。特别是在遮挡、反光、柔性物体或者复杂装配的场景里,只靠视觉往往很难把动作做稳。
触觉和六维力的引入正好可以补上这些短板。我们先来了解下什么是六维力?它可以理解为机器人在接触过程中感受到的完整受力状态,包括三轴方向上的力(F_x、F_y、F_z)和绕三个轴的力矩(M_x、M_y、M_z)。前者描述「被推 / 拉了多少」,后者描述「被拧 / 扭了多少」。
不同于视觉,触觉和力反馈直接作用在接触过程中,持续提供压力、摩擦和受力方向等信息,让机器人在操作时一边执行、一边修正,「边做边感受」。
在此基础上,力反馈改变了机器人的控制方式。以往,机器人基本是按预设轨迹执行,换个环境就容易出错;有了六维力数据之后,动作可以根据接触状态随时调整。
开普勒搭建了一套全感知数据采集系统,将视觉、力觉、触觉、语言和动作这些多模态数据,放在了同一套流程里同步采集并统一对齐。
流程是这样的:首先操作员戴上力反馈外骨骼和触觉手套,手部动作被捕获并映射到机器人;接着机器人通过手部搭载的高分辨率触觉传感器,实时检测接触时的力、滑动和状态变化,这些触觉数据在被转换为振动、阻力等可感知反馈之后回传给操作员;最后操作员根据触觉反馈动态调整操作。
做量的关键在于「类 UMI 的人类示范采集路径」,其核心硬件是集成高密度触觉传感器的手套。用一句话来总结整体思路:将数据采集从依赖成本高昂、数量有限的机器人本体转移到依赖人本身,从而降低成本并提升采集效率。
相较于做精的高保真数采路径,这一路径在流程上更为简化:采集员戴上触觉手套,在真实环境里完成各类操作任务,系统同步将视觉信息、手部关节角度、触觉压力阵列以及肌肉运动等多模态数据记录下来,再通过算法映射到目标机器人的运动学模型中。
- 遥操
- UMI
- EgoCentric
- 仿真合成