CH.03 / DATA CAPTURE
HARDWARE DATA // FIRST MILE

教机器人
干活

把人的一次操作,录成机器可以学习的“观测 → 动作”序列。第三章从遥操作出发,走完整条硬件数据采集流水线。

DEMODATAPOLICY
● OBSERVATION → ACTION → EPISODE
CH.03 / TELEOP
01 // TELEOPERATION

遥操作真正生产的是训练数据

核心目的:记录“观测 → 动作”

主端 Master

操作者输入设备
领导臂 / VR 手柄

从端 Slave

复现操作者动作
机械臂 / 夹爪

数据记录

Oₜ → Aₜ
每次操作生成一条轨迹

在具身智能中,遥操作的核心价值是把人的示范转成可训练的观测—动作序列。

CH.03 / THREE RIGS
02 // OPTIONS

三种主端,没有一种通吃所有任务

选遥操作方案要同时权衡成本、精度、力反馈和任务工作空间。

CH.03 / BODYLESS
03 // BODYLESS

不碰机器人,也能把人的动作采下来

第一人称 / HEAD CAM固定视角OUTPUT: 3D HAND TRAJECTORY
1P

第一人称

视角自然,与操作者看到的画面一致。

3P

固定视角

部署简单,不干扰正常操作。

3D

多视角融合

头戴 + 多个固定相机,重建手部轨迹。

无本体采集不需要机器人实体,但仍需要摄像头和后期处理来恢复人的动作。

CH.03 / CHOICE
04 // DECISION

遥操作求,无本体求

数据精度 ↑采集规模与效率 →
遥操作精确关节角度
有力反馈
无本体采集融入工作流
规模更大

两种路线不是二选一:规模数据与高精度示范组合使用,才能彼此补位。

CH.03 / TRAJECTORY
05 // EPISODE

一条轨迹,就是完整的观测—动作序列

T0 / START

OBSERVATION
图像、角度、力
ACTION
目标角度 / 速度

T1

看到物体更近
机械臂继续前伸

T2

夹爪到达目标
闭合夹爪

TN / END

任务完成状态
停止并保存
EPISODE一次完整操作过程,由连续 Timestep 组成。

模型学习的不是孤立视频或关节值,而是每个时间步“看到什么、做了什么”。

CH.03 / LEROBOT
06 // FORMAT

LeRobot 把异构数据装进一个标准包

├─data/
├─episode_000000.parquet
├─videos/
├─cam01/episode_000000.mp4
└─meta/
├─info.json
├─episodes.jsonl
└─stats.json

统一目录、字段和时间戳,让数据能够直接进入存储、版本管理和训练管道。

CH.03 / SIGNAL QUALITY
07 // RESOLUTION + FPS

清晰度和时间精度,都不是越大越好

分辨率:细节与存储的拉锯

320×240
640×480
4K
细节不足清晰度 / 开销平衡存储与显存压力大
DEFAULT 640×480 @ 30fps

帧率:先问动作有多快

FPS ≥ 2 × 动作最高频率
慢 10–15中 20–30快 50+

参数选择要服务任务:画面足够辨识、时间采样足够跟上动作,同时控制存储开销。

CH.03 / SYNC
08 // TIMESTAMP

同步误差会把正确数据配成错误因果

问题:相机晚了 50ms,图像与关节状态错位

CAMERA
JOINT
FRAME 10 图像 ≠ FRAME 10 动作

硬件同步

外部触发,同一时钟工作。

最可靠

软件同步

采集后按时间戳匹配最近帧。

次选

平台模块

内置硬件同步。

误差 < 5ms

观测和动作必须对齐到同一时刻,否则模型会学习不存在的动作因果关系。

CH.03 / FACTORY
09 // WORKFLOW

数采工厂:把一次示范走成六步流水线

1

进入模块

登录平台,打开数采工厂。

2

检查硬件

绿正常、黄待校准、红未连接。

3

创建任务

名称、类型、30fps、640×480。

4

执行采集

动作匀速连贯,异常及时标记。

5

预览质检

视频、关节曲线、帧率与同步。

6

导出数据

LeRobot 或 CSV,本地或云端。

可靠采集不是按下录制键,而是从连接、配置、操作到质检和导出的完整流程。

CH.03 / QA
10 // QUALITY GATE

好数据靠质检 + 重采炼成

DATA QA / CHECKLIST

图像清晰,无运动模糊VISIBLE
实际帧率波动 < 10%STABLE
时间戳误差 < 10msSYNCED
轨迹完整,无中断跳帧COMPLETE
!同类物体标注保持一致REVIEW

倒水任务 / 15 秒动作拆解

0–3s
到杯上方
3–5s
下降抓取
5–8s
抬起移动
8–11s
倾斜倒水
11–13s
回正放回
13–15s
回初始位
重复 10–20 次,每次位置微调 ±2cm;记录备注,增加多样性。

质量门槛保证每条轨迹可信,轻微改变初始条件则让数据覆盖更多情况。

CH.03 / RECAP
03

采集链路的五个质量关口

01 / SOURCE

示范来源

遥操作求精,无本体求多,两者互补。

02 / SEQUENCE

轨迹结构

每个时间步都要配对观测与动作。

03 / FORMAT

LeRobot

统一数据、视频、元数据与字段定义。

04 / SIGNAL

采样与同步

分辨率、帧率和时间戳共同决定可信度。

05 / QA

质检导出

回放、曲线、异常帧与完整性缺一不可。

硬件数据采集是具身智能的“第一公里”:先把示范可靠地变成数据,模型才有东西可学。
CH.03 / QUIZ
SOURCE QUIZ // 10

单选题:采集链路压力测试

题目 1 / 10
得分 0 / 10

1. 遥操作在具身智能领域的主要目的是什么?

2. 以下哪个不是遥操作系统的三要素之一?

3. ALOHA 方案的主要特点是什么?

4. “无本体采集”的含义是?

5. LeRobot 数据格式中,一条轨迹的核心结构是什么?

6. 教学实训平台推荐的默认图像分辨率和帧率是多少?

7. 多传感器同步误差会导致什么问题?

8. 数采工厂的硬件状态显示黄色,表示什么?

9. 采集“倒水任务”时,建议重复采集多少次?

10. 以下关于采集质量标准的描述,哪个正确?

先作答,再查看讲义解析
CH.03 / PRACTICAL 01
SOURCE PRACTICAL // 1

实操一:完成一次数据采集

讲义原始任务要求

  1. 登录具身智能教学实训平台,进入数采工厂。
  2. 创建任务,命名为 {你的动作}_{你的姓名}_v1,如“抓取_张三_v1”。
  3. 检查硬件连接,确保所有设备为绿色。
  4. 完成一次简单的抓取—放置动作。
  5. 采集时长不少于 10 秒。
  6. 导出为 LeRobot 格式并保存到本地。

提交要求

导出的 .zip 文件 + 一张数据预览页截图,截图必须包含关节角度曲线。
CH.03 / PRACTICAL 02
SOURCE PRACTICAL // 2

实操二:写一份数据质量报告

讲义原始任务要求

基于你采集的数据,撰写 200–300 字质量分析报告,包含:

  • 任务名、时长、总帧数、文件大小。
  • 帧率稳定性分析。
  • 同步精度检查结果。
  • 异常帧表现与可能原因。
  • 如果重新采集,你会做哪些调整。

提交要求

提交 Markdown 或 Word 格式的报告文件。
01 / 15