기록 메모 — 로봇이 처음 보는 물체와 환경에서도 움직이게 하려면, 모델을 크게 만드는 일과 데이터를 넓히는 일 중 무엇이 먼저일까?
왜 이 논문부터 읽었나
로봇 정책은 카메라 영상과 명령을 받아 다음 동작을 고르는 프로그램이다. 처음에는 특정 작업을 잘 시키는 방법을 찾고 있었지만, 작업 하나에만 맞춘 정책은 조건이 조금만 바뀌어도 쉽게 흔들릴 수 있다는 점이 더 큰 문제로 보였다. 그래서 개별 기술보다 데이터의 범위가 일반화에 어떤 영향을 주는지 확인하기 위해 RT-1을 출발점으로 골랐다.
논문이 택한 방향
RT-1은 여러 실제 로봇과 다양한 작업에서 모은 시연을 하나의 Transformer 정책에 학습시켰다. Transformer는 문장 속 단어 사이의 관계를 살피듯, 관측과 명령 사이에서 중요한 정보를 골라내는 모델 구조다. 한 작업의 데이터를 깊게 모으는 선택도 가능했지만, 이 논문은 낯선 상황에 대응하려면 서로 다른 작업과 환경을 함께 보는 편이 더 낫다고 판단했다.
내 워크스페이스에 남긴 질문
이 논문을 읽고 난 뒤에는 좋은 정책을 찾기 전에 어떤 데이터를 남길지부터 정해야 한다고 생각하게 됐다. 내 프로젝트에서는 아직 대규모 실제 로봇 데이터를 모으는 단계가 아니므로, RT-1의 규모를 따라 하려는 선택은 맞지 않다. 대신 시뮬레이션, 실험 기록, 관측 형식이 나중에 서로 연결될 수 있는지부터 점검하는 기준으로 삼고 있다.
다음으로 볼 것
RT-1은 데이터의 다양성이 왜 중요한지를 보여줬지만, 언어와 이미지로 학습한 더 넓은 지식이 로봇 행동까지 이어질 수 있는지는 남겨 둔다. 그 질문은 다음 글에서 다룰 RT-2로 이어진다.