curriculum-v2

롤아웃·학습 실행 / 모니터 / 교정 / 진급

타겟 그룹을 정해 롤아웃을 시작하고, 별도로 학습을 시작해 가중치를 주기 배포하며, 진행을 모니터링하면서 실패를 교정하고, 성공률 목표 도달 시 스테이지 진급을 확인합니다.

최근 확인 버전: v6.0.23

설정이 끝나면 화면 우측의 컨트롤 바에서 롤아웃과 학습을 실행합니다. 우측 패널은 위쪽의 컨트롤 바와 그 아래 그룹별 대시보드 카드로 구성됩니다.

컨트롤 바에는 롤아웃과 학습 버튼이 분리되어 있습니다. 롤아웃(데이터 수집)과 학습(가중치 갱신)은 서로 독립적으로 시작·중지할 수 있으며, 보통은 둘을 동시에 켜 두고 운영합니다. 그래야 로봇이 굴러가며 데이터를 모으는 동안 학습이 그 데이터를 흡수해 가중치를 계속 개선하는 온라인 루프가 돕니다.

스크린샷 누락/docs/curriculum-v2/v2-02-overview.png

우측 컨트롤 바 — 타겟 그룹 다중선택, 반복 횟수, 롤아웃 시작/중지, 학습 시작/중지, 전체초기화

롤아웃 시작

    1. 디바이스 탭에서 로봇과 센서를 모두 켭니다.

      하나라도 꺼져 있으면 컨트롤 바에 "로봇과 센서를 모두 켜야 시작할 수 있습니다. (디바이스 탭에서 확인)" 안내가 표시되고 롤아웃 시작 버튼이 비활성화됩니다.

    2. 타겟 체크포인트 그룹을 선택합니다.

      이번 롤아웃에서 판정할 그룹을 다중 선택할 수 있습니다.

    3. 반복 횟수를 정합니다.

      몇 번 반복할지 입력합니다. 0 = 무한으로, 기본값이며 직접 정지할 때까지 계속 반복합니다.

    4. 롤아웃 시작을 누릅니다.

      롤아웃이 시작되면 헤더 상태칩이 실행 중으로 바뀝니다. 멈추려면 롤아웃 중지를 누릅니다.

      스크린샷 누락/docs/curriculum-v2/v2-run-start.png

      컨트롤 바 — 타겟 그룹 선택, 반복 횟수, 롤아웃 시작 버튼

학습 시작

학습은 롤아웃과 독립적으로 시작합니다. 학습 스텝 수를 0으로 두면 학습을 중지할 때까지 계속 돌면서, 데이터셋 그룹에 쌓인 데이터를 주기적으로 다시 읽어 일정 스텝마다 새 가중치를 배포합니다. 따라서 롤아웃으로 데이터가 모이는 동안 학습을 켜 두면 정책이 점점 개선됩니다. 데이터 비중과 블록별 n·m은 그룹 정책 탭에서 정합니다.

    1. 타겟 그룹을 선택한 상태에서 학습 시작을 누릅니다.

      컨트롤 바의 학습 시작(파란색)을 누르면 학습 시작 다이얼로그가 열립니다. 다이얼로그 위쪽에는 학습 서버 주소와 연결 상태가 표시됩니다. 학습 서버는 상단 바의 시스템 모니터에서 설정합니다.

    2. 학습 스텝 수를 정합니다.

      • 학습 스텝 수 (0=무한) — 이번 학습에 적용할 스텝 수입니다.
        • 0 — 학습을 중지할 때까지 계속 학습하며, 블록별 배포 주기(m 스텝)마다 가중치를 배포합니다.
        • 0보다 큰 값 — 중간 배포 없이 그 스텝까지 학습한 뒤, 검증 손실(val loss)이 가장 낮았던 가중치를 한 번만 배포합니다.

      블록 목록에는 그룹 정책 탭에서 정한 값이 n=10 · m=1000처럼 요약되어 표시됩니다. 학습 스텝 수를 0보다 크게 정하면 m 스텝 배포를 하지 않으므로 요약에 n만 보입니다.

      스크린샷 누락/docs/curriculum-v2/v2-run-train-dialog.png

      학습 시작 다이얼로그 — 학습 서버 표시, 학습 스텝 수 (0=무한) 입력, 블록별 n·m 요약과 체크포인트 처리 선택, GPU 사용량

    3. 블록마다 체크포인트 처리 방식을 고릅니다.

      • 현재 체크포인트 업데이트 — 지금 체크포인트의 가중치를 덮어씁니다.
      • 새 체크포인트 생성 — 지금 체크포인트는 그대로 두고, 그 가중치에서 이어 학습(파인튜닝)한 새 체크포인트를 만듭니다. 새 체크포인트 이름은 원래 이름 뒤에 _g1, _g2처럼 세대 번호가 붙습니다. 플래너 블록의 체크포인트도 자동으로 새 체크포인트로 바뀌며, 새 체크포인트는 첫 배포 전까지 원래 체크포인트의 가중치로 동작합니다.

      다이얼로그를 열 때마다 모든 블록은 현재 체크포인트 업데이트로 시작합니다. 정책만 지정한 빈 체크포인트 블록은 이어 학습할 가중치가 없어 현재 체크포인트 업데이트로 고정되고, "빈 체크포인트라 이어 학습할 가중치가 없어요 — 이 블록의 체크포인트를 처음부터 학습합니다." 안내가 표시됩니다.

      스크린샷 누락/docs/curriculum-v2/v2-run-train-cp-mode.png

      학습 시작 다이얼로그의 블록 행 — 현재 체크포인트 업데이트 / 새 체크포인트 생성 선택, 빈 체크포인트 블록의 고정 안내

    4. GPU 사용량을 확인하고 학습 시작을 누릅니다.

      GPU 사용량 / 여유 공간에 예상 VRAM 사용량(합)과 가용량, 동시 학습 가능 여부가 표시됩니다. 학습 시작을 누르면 학습이 돌기 시작하고, 해당 그룹의 대시보드 카드에 학습중 칩이 표시됩니다. 학습을 멈추려면 컨트롤 바의 학습 중지(주황색)를 누릅니다.

모니터

롤아웃 실행 중에는 화면 우측 하단에 모니터 버튼(FAB)이 떠 있습니다. 누르면 전체화면 모니터가 열려 진행 상황을 자세히 볼 수 있습니다.

스크린샷 누락/docs/curriculum-v2/v2-run-monitor.png

전체화면 모니터 — 라이브 카메라/로봇 뷰, 현재 블록, 스텝 진행바, 실패처리/전체 종료 버튼

모니터에서는 다음을 확인할 수 있습니다.

  • 라이브 카메라와 로봇 뷰
  • 현재 실행 중인 블록과 스텝 진행바
  • 에피소드 저장 배너(성공/실패 에피소드를 인코딩·저장하는 중)
  • 중단 버튼

체크포인트 블록이 추론 중인 플랜 칸에는 실패처리 버튼이 표시됩니다. 정책이 실패하고 있다고 판단되면 이 버튼을 눌러 해당 체크포인트를 실패로 처리하고 교정 흐름으로 넘어갈 수 있습니다. 동시에 여러 플랜이 진행 중이면(멀티 플랜) 각 칸의 실패처리는 그 플랜만 겨냥하며, 한쪽이 교정 중이라 반대편 추론이 멈추면 교정 대기 중 뱃지가 표시됩니다. 파이프라인 전체를 끝내려면 하단의 전체 종료를 누릅니다.

실행 중인 블록이 에이전트 액션 블록이면 그 플랜 칸에 플래너와 같은 로봇 에이전트 패널이 표시됩니다. 에이전트의 상태·질문·최근 결정을 보고 글이나 말(M 키)로 끼어들 수 있고, 음성 스위치로 에이전트의 말을 소리로 들을 수 있습니다. 에이전트 중지를 누르면 그 블록만 실패로 끝나 롤아웃이 실패 처리(Fallback 블록)로 이어집니다. 에이전트 판단 블록도 롤아웃에서 그대로 카메라를 보고 갈래를 고릅니다.

완료 처리

정책이 사실상 작업을 해냈는데 스스로 끝을 못 낼 때 완료 처리를 누릅니다. 로봇이 그 자리에 멈추고, 그 상태가 30스텝가량 교정 데이터로 쌓입니다. 버튼을 누르기 직전까지의 궤적은 저장하지 않습니다(성공도 실패도 아님).

워크스페이스에 작업 단계를 정의해 뒀다면, 누를 때 어느 단계가 됐는지 고르는 창이 먼저 뜹니다.

  • 마지막 단계를 고르면 그 단계와 함께 작업 완료(Done) 도 기록됩니다 — 수집 화면에서 마지막 단계로 넘겼을 때와 같습니다.
  • 중간 단계를 고르면 단계만 기록되고 작업 완료는 세우지 않습니다.

교정 (DAgger)

체크포인트가 (최대 스텝 초과 또는 실패처리로) 실패하면 체크포인트 실패 확인 다이얼로그가 뜹니다. 사용자가 직접 로봇을 조종해 올바른 동작을 시연하는 교정(DAgger) 데이터를 수집할 수 있습니다.

스크린샷 누락/docs/curriculum-v2/v2-run-correction.png

체크포인트 실패 다이얼로그 — 실패 요약, 예 교정 시작 / 건너뛰기

    1. 체크포인트 실패 다이얼로그에서 교정 여부를 고릅니다.

      교정하려면 예, 교정 시작을, 건너뛰려면 건너뛰기를 누릅니다. 다이얼로그에는 진행한 스텝·최대 스텝·실패 사유가 함께 표시되며, 선택과 무관하게 플래너는 fallback 블록으로 이미 이동해 있습니다.

    2. 되감기로 교정 시작 지점을 정합니다.

      예, 교정 시작을 누르면 되감기 화면이 열립니다. ←/→ 키 또는 버튼으로 체크포인트가 지나온 과거 스텝까지 로봇 팔을 되감은 뒤, 원하는 지점에서 이 지점에서 교정 시작을 누릅니다. 되감는 동안 롤아웃은 일시정지 상태로 유지됩니다.

      스크린샷 누락/docs/curriculum-v2/v2-run-correction-rewind.png

      되감기 화면 — ←/→ 로 과거 스텝 되감기, 교정 시작 지점 선택

    3. 교정 텔레옵 설정을 채우고 수집을 시작합니다.

      되감기를 마치면 교정 텔레옵 설정이 열립니다. 자연어 지시, 텔레오퍼레이션 타입, Hz를 정한 뒤 수집 시작을 누릅니다.

      스크린샷 누락/docs/curriculum-v2/v2-run-correction-teleop.png

      교정 텔레옵 설정 — 자연어 지시, 텔레오퍼레이션 타입, Hz, 수집 시작

에이전트 교정

체크포인트 블록 설정의 교정데이터 수집 탭에서 텔레오퍼레이션 타입을 에이전트로 정해 두면(설정 방법), 사람이 시연하는 대신 로봇 에이전트가 교정 시연을 남깁니다. Claude · GPT · Gemini 모듈 중 하나가 설치되어 있어야 고를 수 있습니다.

  • 체크포인트가 실패하면 체크포인트 실패 확인 창과 되감기 화면 없이, 실패한 자세 그대로에서 바로 에이전트가 이어서 교정을 녹화합니다.
  • 에이전트는 체크포인트를 만든 원래 워크스페이스의 에이전트 설정(작업 지시 · 전략 · 카메라 · 고급 설정 · 안전 기능)을 따릅니다. 그 워크스페이스 설정 탭의 에이전트 설정에서 작업 지시를 먼저 채워 둡니다. 작업 지시가 비어 있으면 교정 녹화가 시작되지 않고 "에이전트 작업 지시가 비어 있습니다. 워크스페이스 설정 탭의 에이전트 설정에서 작업 지시를 입력하세요."가 표시됩니다.
  • 진행은 모니터의 녹화 창에 나타나는 로봇 에이전트 패널에서 보고, 글이나 M 키로 바로잡을 수 있습니다.
  • 에이전트가 성공으로 끝내면 교정 에피소드가 저장되고 다음 블록으로 넘어갑니다. 끝내지 못하면 저장하지 않고 그 블록의 Fallback 블록으로 갑니다.
  • 로봇이 움직이는 동안만 기록하는 등 녹화 규칙은 에이전트로 녹화와 같습니다.
스크린샷 누락/docs/curriculum-v2/v2-run-correction-agent.png

에이전트 교정 중인 모니터 — 녹화 창과 그 아래 로봇 에이전트 패널(상태 · 최근 결정 · 입력창 · 에이전트 중지)

대시보드

우측 패널의 그룹별 대시보드 카드에서 진행 상황과 지표를 확인합니다. 각 카드에는 그룹 색·이름·체크포인트 수가 표시되고, 학습 중인 그룹에는 학습중 칩이 붙습니다.

스크린샷 누락/docs/curriculum-v2/v2-run-dashboard.png

그룹 대시보드 카드 — 성공/실패/교정/평균 길이 테이블, 판정 조건, 노이즈 범위, 성공률 라인차트

카드에서 볼 수 있는 지표는 다음과 같습니다.

  • 성공 / 실패 / 교정 / 평균 길이 — 체크포인트별 누적 수치입니다.
  • 판정 조건 — 체크포인트별 최대 스텝과 성공 임계값입니다.
  • 노이즈 ± 범위 — 모션 블록별 노이즈 범위로, 선택한 스테이지(stage_index)를 기준으로 계산됩니다.
  • 성공률 라인차트 — 성공률(= 성공 / (성공 + 실패))을 스테이지별로 보여 줍니다.

카드 상단에서는 Stage 를 선택해 스테이지별 지표를 볼 수 있습니다.

스테이지 진급

진급은 누적 개수가 아니라 성공률로 판단합니다. 현재 스테이지의 성공률(= 성공 / (성공 + 실패))이 그룹 정책의 목표 성공률(기본 0.8)에 도달하고, 최소 롤아웃 수(기본 10)를 넘기면 더 어려운 다음 스테이지로 자동 진급합니다.

진급하면 노이즈 정책만 갱신되어 노이즈 범위가 step_up만큼 한 단계 넓어집니다(학습은 멈추지 않고 계속 이어집니다). 즉 진급 때마다 새 체크포인트가 만들어지는 것이 아니라, 같은 체크포인트가 학습으로 계속 개선되는 동안 출발 조건만 점점 어려워집니다.

초기화 / 스테이지 관리

컨트롤 바와 대시보드에서 다음 동작을 수행할 수 있습니다.

  • 전체초기화 — 자가학습에서 쌓은 데이터셋을 모두 삭제합니다. 그룹 정의는 유지되고 첫 스테이지가 다시 만들어집니다.
  • 스테이지 초기화 — 선택한 스테이지의 데이터만 삭제합니다.
  • 이전 스테이지로 복귀 — 스테이지가 둘 이상일 때 대시보드 카드에서 현재 스테이지를 삭제하고 이전 스테이지로 복귀합니다.
  • 실패 데이터 버리기 — 스테이지의 실패 데이터셋을 비웁니다.

관련 문서