跳转至

R1 VR遥操作使用教程

1. 产品介绍

VR遥操作系统提供沉浸式的远程控制体验,使操作员能够通过精准反馈和实时响应控制R1机器人。系统支持全身同步,提供直观且高精度的操作界面,具备毫米级精度和毫秒级响应速度。该系统设计用于在复杂环境中无缝互动,非常适合需要精细和精准机器人控制的任务。

接下来的教程将详细介绍VR遥操作产品的激活方法、使用手册和实际视频演示,助您迅速体验这款高性能遥操作平台。

2. 启动前准备

2.1 硬件准备

物品 数量 备注
Meta Quest 3 VR设备 1 包含1个头戴设备、2个手持遥控器和Type-C连接线。
R1 Base 1 用于R1和R1-T之间的无线通信。
R1遥控器 1 控制R1机器人
R1上位机 1 系统:Ubuntu20.04 ROS Noetic
用于给R1 Base升级软件程序
局域网 1 用于连接VR设备和R1 Base。

2.2 软件准备

请在下载并解压R1遥操作整包版本V1.1.0。

VR设备配置SDK:

  • Meta 相关安装包.zip:用于新设备激活。
  • platform-tools-latest-windows.zip:adb文件,用于安装VR头显内部的数据采集APP。
  • GalaxeaVR-V1-0-1.apk:VR头显内部的数据采集APP。

Galaxea R1 VR遥操作SDK_V1.1.0:

  • R1_vrteleop-V1.1.0-20250213_19_03_45.tar:R1机器人VR遥操作软件包

3. VR 设备配置

3.1 VR设备开发者模式激活

请参考 Meta Quest 3 开发者模式使用说明 完成激活。

3.2 VR设备SDK安装

  1. 解压ADB文件:下载并解压platform-tools-latest-windows.zip文件。

  2. 连接VR设备:使用Type-C数据线将 VR 设备连接到电脑。

  3. 授权USB连接:在VR设备中,确认并允许USB设备连接(如图所示)。 VR_3.2_USB_connection_CN

  4. 进入ADB解压路径:打开文件资源管理器,进入解压后的ADB工具文件夹路径。

  5. 拷贝APK文件:将 GalaxeaVR-V1-0-1.apk 文件拷贝到该路径下。

  6. 安装APK:在该路径下打开命令提示符(CMD),执行以下命令安装应用:

.\adb.exe install GalaxeaVR-V1-0-1.apk 

如果命令执行后显示 Success,则表示安装成功。 VR_3.2_install_apk_CN

3.3 VR 设备配置

在 Meta Quest 3 的初始界面下,连接与R1相同的WiFi网络。 注意:提示网络受限是正常现象,因为该网络无法访问外网。

VR_3.3_wifi_CN

3.4 获取VR设备的IP地址

在VR设备内,点击已连接的WiFi,打开网络页面后向下划,找到并记录IP地址(如:192.168.5.24)。

4. R1配置

安装 Galaxea R1 VR遥操作SDK

  1. 下载并拷贝SDK: 下载R1_vrteleop-V1.1.0-20250213_19_03_45.tar.gz 文件,执行以下命令拷贝SDK到R1上。

    scp R1_vrteleop-V1.1.0-20250213_19_03_45.tar.gz nvidia@192.168.5.8:~/Downloads
    

  2. 登陆R1

    ssh nvidia@${R1_IP}
    

  3. 解压SDK到R1

    mkdir ~/vr_workspace
    tar -zxvf ~/Downloads/R1_vrteleop-V1.1.0-20250213_19_03_45.tar.gz -C ~/vr_workspace
    

  4. 嵌入式固件升级

    # 启动环境
    source ~/vr_workspace/install/setup.bash
    cd ~/vr_workspace/install/share/Embedded_Software_Firmware/tools/R1
    # 启动 can
    sudo -S ip link set can0 type can bitrate 1000000 dbitrate 5000000 fd on
    sudo -S ip link set up can0
    # 升级嵌入式固件
    bash r1_embedded_firmware_upgrade.sh ../../R1/V1_1_0
    

注意:如果显示如下信息,则表示升级成功。 VR_4.1_XCU_upgrade_CN 5. 重启R1
升级完成后,将机器人R1下电并重新启动。重启后,软件包配置完成,VR遥操作功能即可使用。

5.遥操作启动

注意:每次启动时都需要完成并确认本章节的所有操作。

5.1 R1本体程序启动

  1. 登录R1

    ssh nvidia@${R1_IP}
    

  2. 进入软件包启动目录

    cd ~/vr_workspace/install/share/startup_config/script/
    

  3. 启动程序

    ROS_IP=${R1_IP} ROS_MASTER_URI=http://${R1_IP}:11311 VR_IP=${VR_IP} ./ota_script.sh boot
    

5.2 VR设备程序启动

注意:请佩戴好VR设备并手持两个遥控器,开始以下操作。

5.2.1. 连接WiFi

确认VR设备已成功连接到与R1本体相同的 WiFi 网络。

5.2.2. 新建边界

  1. 点击左下角的WiFi和电池界面,选择“边界”

  2. 根据提示选择”原地边界”,可以看到脚下出现一个蓝色的圈,表示边界已建立。 VR_3.3_wifi_CN

VR_5.2.2_new_boarder_CN

注意:新建边界后,直到结束 VR 遥操作任务前,请不要挪动双脚。

5.2.3. 启动 GalaxeaVR APP

  1. 打开GalaxeaVR应用:点击右下角的正方体图标启动GalaxeaVR应用。 VR_5.2.3_open_app_CN
  2. 输入 R1 的 IP 地址: 进入GalaxeaVR应用后,将VR手柄发射的射线对准绿色的IP输入框。

等待绿色输入框轻微变色后,用右控制器的肩键(食指键)点击输入框(光标位置需要偏下一些)。

键盘弹出后,输入机器人端的IP地址(即 R1_IP)。 3. 操控VR设备 设置好IP后点击Start按钮开始。

双手立刻自然下垂放在身体两侧,等待3秒后开始操控。

注意:此时机器人会同步您的操作,请注意安全,先进行小幅移动,确保周围没有障碍物。 VR_5.2.3_operatevr_CN 4. VR设备图像显示 此时,您可以看到机器人头部相机的图像。 VR_5.2.4_vr_image_CN 您可使用以下步骤完成简易操作:

  • 停止操作:长按 B 键 2 秒以上,停止VR遥操作。
  • 控制夹爪:手的移动会控制机器人手臂的移动。左手的 X 键和右手的 A 键分别控制左右手的夹爪闭合。
  • 暂停右臂:短按 B 键一下,右臂会停在当前的位置;再按一下 B 键解除暂停。
  • 暂停左臂:短按 Y 键一下,左臂会停在当前的位置;再按一下 Y 键解除暂停。

详细操作说明请参考第6章节:遥操作控制说明。

6.遥操作控制说明

请在确保人员与物品安全的情况下,于开阔场地练习本产品的使用。

建议待熟悉本产品的使用后,再开始正式数据采集。

6.1遥控器使用说明

6.1.1 R1遥控器

R1_controller

  1. 开启/关闭:同时按住两个电源按钮,直至触摸屏亮起或者熄灭。
  2. 电量及连接状态显示:
  3. TX 框显示遥控器的电池电量情况。
  4. RX 框显示遥控器是否成功连接到底盘。若连接成功,框中会出现一个条形;若连接失败,则框中会显示一个问号。
  5. 拨杆/摇杆使用:
  6. SWA/SWD 是短拨杆开关,有上、下两个档位。
  7. SWB/SWC 是长拨杆开关,有上、中、下三个档位。
  8. 左/右摇杆可上、下、左、右移动。

注意:在进行任何操作之前,请确认所有拨杆开关(SWA/SWB/SWC/SWD)都拨至最上方档位,这样能使R1处于停止状态,防止其意外运行。

在不同功能下,各拨杆开关切换到不同位置的操作说明如下: R1_controller_switch

6.1.2 VR手持遥控器

VR_6.1.2_vr_controller_left_CN

VR_6.1.2_vr_controller_right_CN

6.2 VR设备APP显示按键

VR_6.2_vr_app_button_CN

6.3 模式切换

遥操作启动后,默认模式为双臂操控模式。用户可以通过VR设备遥控器切换不同的操作模式。

模式 切换方式 备注
双臂操控模式
(BIMANUAL)
左右两个摇杆同时向下长按1秒 默认模式
底盘模式
(BASE)
手持遥控器左摇杆向下长按1秒 此模式需要开启R1遥控器,并将 SWA,SWB,SWC,SWD全部拨至上方。
躯干模式
(Torso)
右摇杆向下长按1秒 -

6.3.1双臂操控模式

功能 描述 备注
双手跟随 R1机械臂末端位置会跟随VR手持遥控器的移动而移动。 -/td>
夹爪夹取 VR右遥控器的 A 键控制左夹爪闭合
VR左遥控器的 X 键控制右夹爪闭合
-
夹爪暂停 VR右遥控器的 B 键控制右臂的暂停
VR左遥控器的 Y 键控制左臂的暂停
按一下暂停,再按一下解除暂停
解除暂停时,要确保手持遥控器的位置与点击暂停时的位置一致,否则机械臂可能会出现较大幅度的突然移动。

6.3.2 底盘模式

功能 描述 备注
前进/后退 VR左遥控器摇杆向前/向后 -
平移 VR右遥控器摇杆向左/向右 -
自旋 按住VR右遥控器摇杆 G 键为顺时针旋转
按住VR右遥控器摇杆 T 键为逆时针旋转
-

6.3.3躯干模式

功能 描述 备注
躯干直立 VR左遥控器摇杆向前 -
躯干弯曲 VR左遥控器摇杆向后 -

7. 数据采集流程

7.1 数据格式介绍

数据采集的文件格式为rosbag,文件后缀为*.bag

7.2 数据获取

默认存储路径:/home/nvidia/GalaxeaDataset/data/

7.3 数据录制配置文件介绍

默认数据录制使用的配置文件位于:

/home/nvidia/vr_workspace/install/install/lib/data_collection/config/001.yaml

配置文件说明:配置文件用于描述此次采集任务的信息,用户可以根据需求自行修改。其中,两个关键参数如下:

  1. task_id:此次采集的任务号。如果有多个任务,可以更改此 ID,数据落盘时会以任务号作为前缀进行区分。
  2. save_folder: 数据采集的落盘路径,用户可以根据需求进行更改。
task_id: 001
task_description:   teleoperation data collection starts.
save_folder: /home/nvidia/GalaxeaDataset/data/
arm_manipulation_type: two_arms
arm_controller_type: task_space
scene_labels:
  - office
action_labels:
  - pick
  - place
object_labels:
  - objects
robot_serial_number: S2R12000P11224
robot_hardware_version: 'R1_1.0.0'
robot_software_version: '1.0.0'
teleoperator_id: 0001
camera_extrinsic: 
  - [0.06739, 0.000, 0.475300]  # position
  - [0.000, 0.17364, 0.000, 0.98480]  # quaternion
record_rostopics:
  - /breakpoint
  - /exception
  - /hdas/camera_head/left_raw/image_raw_color/compressed
  - /hdas/camera_head/right_raw/image_raw_color/compressed
  - /hdas/camera_head/depth/depth_registered
  - /hdas/camera_wrist_left/color/image_raw/compressed
  - /hdas/camera_wrist_left/aligned_depth_to_color/image_raw
  - /hdas/camera_wrist_right/color/image_raw/compressed
  - /hdas/camera_wrist_right/aligned_depth_to_color/image_raw
  - /controller
  - /eeTracker_demo_node_left/mobile_manipulator_mode_schedule
  - /eeTracker_demo_node_left/mobile_manipulator_mpc_observation
  - /eeTracker_demo_node_left/mobile_manipulator_mpc_target
  - /eeTracker_demo_node_right/mobile_manipulator_mode_schedule
  - /eeTracker_demo_node_right/mobile_manipulator_mpc_observation
  - /eeTracker_demo_node_right/mobile_manipulator_mpc_target
  - /hdas/bms
  - /hdas/camera_head/left_raw/image_raw_color/compressed
  - /hdas/feedback_arm_left
  - /hdas/feedback_arm_right
  - /hdas/feedback_chassis
  - /hdas/feedback_gripper_left
  - /hdas/feedback_gripper_right
  - /hdas/feedback_status_arm_left
  - /hdas/feedback_status_arm_right
  - /hdas/feedback_status_torso
  - /hdas/feedback_torso
  - /hdas/imu_chassis
  - /hdas/imu_torso
  - /mobile_manipulator_mpc_observation
  - /mobile_manipulator_mpc_target
  - /motion_control/chassis_speed
  - /motion_control/control_arm_left
  - /motion_control/control_arm_right
  - /motion_control/control_chassis
  - /motion_control/control_gripper_left
  - /motion_control/control_gripper_right
  - /motion_control/control_torso
  - /motion_control/pose_ee_arm_left
  - /motion_control/pose_ee_arm_right
  - /motion_control/pose_floating_base
  - /motion_control/position_control_gripper_left
  - /motion_control/position_control_gripper_right
  - /motion_target/brake_mode
  - /motion_target/chassis_acc_limit
  - /motion_target/target_joint_state_arm_left
  - /motion_target/target_joint_state_arm_right
  - /motion_target/target_joint_state_torso
  - /motion_target/target_pose_arm_left
  - /motion_target/target_pose_arm_right
  - /motion_target/target_speed_chassis
  - /tf_static
  - /vr_pose

7.4 数据落盘文件介绍

数据以 rosbag + yaml 格式保存,文件一一对应。例如:

 # 例如以下两个文件代表了一个数据包
 1-0001-20240213173320.bag
 1-0001-20240213173320.yaml 
 # 格式为 task id + episode id + timestamp
 # task id:配置文件中定义的任务号。
 # episode id:本次采集过程中,加入断点切包后的序号。
 # timestamp:数据采集的时间戳。
 "{task_id}-{episode_id}-{timestamp}.bag

7.5 开启录制

通过VR左遥控器进行数据录制操作:

功能 操作 描述
开启录制 左手柄 T 键长按1秒 开始数据录制
切换数据包 左手柄 G 键长按1秒 结束当前数据包,保存并开始新数据包(episode_id +1)
停止录制 左手柄 T + G 键同时长按1秒 停止数据录制

示例:

  1. 第一次左手柄 T 键长按1秒,开始录制数据包,文件名为: 1-0001-20240213173320.bag
  2. 左手柄 G 键长按1秒,结束当前数据包并开始新数据包,文件名为:1-0002-20240213175555.bag (episode_id + 1)。
  3. 左手柄 T + G 键同时长按1秒,停止数据录制。

如在安装和启动过程中有任何问题,请及时与我们联系至support@galaxea.ai或致电4008-780-980获得技术支持!