이 페이지는 용어 사전이 아니라 길을 잃었을 때 돌아오는 지도다. 처음부터 읽고 싶다면 Start Here를, 로봇이 말에서 행동으로 가는 흐름이 궁금하다면 로봇은 자연어 명령을 어떻게 이해하고 움직일까를 먼저 읽어도 좋다.
이 블로그에는 로봇, 시뮬레이션, 강화학습, 정책처럼 낯선 단어가 자주 나온다. 처음부터 전부 알 필요는 없다. 이 페이지는 글을 읽다가 막혔을 때 다시 돌아올 수 있도록, 여기서 반복해서 쓰는 개념을 로봇이 보고·판단하고·움직이고·검증되는 순서로 정리한 안내문이다.
PHYSICAL AI SYSTEM MAP
로봇이 보고, 판단하고, 움직이고, 다시 배우는 흐름
Physical AI는 모델 하나의 이름이 아니다. 환경에서 정보를 받고, 행동을 고르고, 제어기를 거쳐 물리적인 결과를 만든 뒤, 그 결과를 평가하는 전체 순환 구조에 가깝다.
SIMULATION
가정을 시험하는 층
Isaac Sim과 Isaac Lab에서 로봇·접촉·센서·학습 조건을 구성한다. 현실을 완벽히 복사하기보다 어떤 가정이 틀렸는지 찾는 데 목적이 있다.
LEARNING
행동 규칙을 바꾸는 층
강화학습과 모방학습은 같은 입력에서 더 나은 행동을 고르도록 정책을 바꾼다. 학습 점수와 실제로 원하는 행동은 반드시 따로 확인한다.
CONTROL & EVIDENCE
움직임과 근거를 남기는 층
제어기는 정책의 출력을 실제 관절 명령으로 바꾸고, 평가는 그 결과를 같은 조건에서 비교한다. 로그는 성공 화면이 아니라 다음 판단의 근거다.
이 블로그에서 말하는 Physical AI
Physical AI는 화면 안에서 답을 만드는 데서 그치지 않고, 현실 또는 시뮬레이션 속 환경을 보고 행동까지 이어 가는 인공지능을 뜻한다. 이 블로그에서는 휴머노이드 로봇이 주변 상태를 받아 움직임을 만들고, 그 결과를 다시 확인하는 과정을 주로 다룬다. 챗봇에게 질문하고 답을 받는 일과 달리, 로봇의 행동은 넘어짐·접촉·시간 지연처럼 물리적인 조건의 영향을 받는다.
1. 로봇은 무엇을 보고 있을까
관측(Observation)은 로봇이나 학습 모델이 현재 상황을 파악하기 위해 받는 정보다. 카메라 이미지, 관절의 위치와 속도, 몸의 기울기처럼 로봇이 읽을 수 있는 값이 여기에 들어간다. 상태(State)는 실제 상황을 더 넓게 설명하는 말이고, 관측은 그중 로봇이 지금 사용할 수 있도록 전달된 부분이라고 생각하면 된다.
2. 로봇은 어떻게 다음 움직임을 고를까
정책(Policy)은 관측을 받았을 때 다음 행동을 고르는 규칙 또는 학습된 모델이다. 사람으로 치면 “이 상황에서는 발을 어디에 디딜지”를 순간적으로 정하는 습관에 가깝다. 제어기(Controller)는 그 선택을 실제 관절 움직임으로 바꾸는 장치이며, 정책과 제어기는 같은 뜻이 아니다.
전신 제어(WBC, Whole-Body Control)는 팔·다리·몸통을 따로가 아니라 하나의 몸으로 보고 균형과 움직임을 함께 맞추는 제어 방식이다. 로봇이 손을 뻗는 동안 넘어지지 않아야 한다면, 팔만 움직이는 명령으로는 부족할 수 있다. 그래서 이 블로그에서는 어떤 움직임을 학습으로 맡길지, 어떤 부분을 제어기로 다룰지도 중요한 판단으로 기록한다.
3. 로봇은 어떻게 배우는가
강화학습(RL)은 로봇이 행동을 시도한 뒤 받은 점수나 보상을 바탕으로 다음 선택을 바꿔 가는 방법이다. 여기서 보상은 “잘했다”는 칭찬 문장이라기보다, 전진 거리·자세·에너지처럼 미리 정한 기준을 수치로 돌려주는 신호에 가깝다. 한 번 높은 점수를 받았다고 바로 좋은 정책이라고 말할 수 없는 이유도, 어떤 조건에서 그 점수가 나왔는지 함께 확인해야 하기 때문이다.
모방학습은 사람이 하거나 로봇이 수행한 시연을 보고 행동을 배우는 방법이다. VLA(Vision-Language-Action)는 이미지와 자연어 지시를 함께 받아 로봇 행동으로 이어 보려는 모델 계열이다. 예를 들어 “빨간 물체를 집어”라는 말과 카메라 영상을 함께 보고 행동을 고르는 방식이지만, 말만 이해한다고 해서 실제로 안전하게 움직일 수 있는 것은 아니다.
4. 왜 실제 로봇보다 시뮬레이션을 먼저 쓸까
시뮬레이션은 컴퓨터 안에 만든 실험 환경이다. 이 블로그에서 쓰는 Isaac Sim은 로봇의 형상·관절·접촉·카메라 같은 물리 조건을 구성하는 도구이고, Isaac Lab은 그 위에서 학습과 평가 환경을 정의하는 도구다. 실제 로봇을 바로 위험한 조건에 놓기보다 많은 가정을 먼저 확인할 수 있다는 장점이 있다.
디지털 트윈은 현실의 로봇과 환경을 컴퓨터 안에서 충분히 비슷하게 다뤄 보려는 모델이다. 다만 시뮬레이터에서 된다고 현실에서도 된다는 보증은 아니다. 이 차이를 sim-to-real 문제라고 부르며, 마찰·질량·센서 지연처럼 현실에서 달라질 수 있는 조건을 따로 확인해야 한다.
5. 결과를 왜 다시 평가할까
평가(Evaluation)는 학습이나 실행이 끝났다는 표시가 아니라, 다음 판단을 위해 결과를 같은 기준에서 확인하는 과정이다. 이 블로그에서는 화면에서 한 번 잘 움직인 장면보다, 어떤 조건에서 무엇을 통과로 볼지 먼저 정하는 쪽을 중요하게 본다. 그래서 글 속의 계획·구현·실행·검증은 서로 다른 단계로 표시한다.
이제 어디서 읽을까
전체 흐름이 궁금하다면 Project에서 시작하면 된다. 논문이 프로젝트의 질문으로 어떻게 이어지는지 보고 싶다면 Papers, 시뮬레이션과 실행 환경을 먼저 알고 싶다면 Setup을 읽으면 된다. 용어를 모두 외우기보다, 글을 읽다가 필요한 개념으로 다시 돌아오는 방식이면 충분하다.