화면 속 인공지능이 잘 답하는 것과 로봇이 실제로 움직이는 일은 무엇이 다를까요. 로봇은 말을 이해하는 것만으로는 물건을 집거나 균형을 잡을 수 없습니다. 몸의 상태를 읽고, 주변을 관측하고, 다음 행동이 안전한지 판단해야 합니다. 저는 이처럼 인공지능이 물리적인 몸과 환경 안에서 행동하도록 만드는 문제를 Physical AI, 즉 물리 세계의 제약을 함께 다루는 인공지능이라고 이해하고 있습니다.
로봇·시뮬레이션·학습은 따로 떼어 볼 수 없습니다
일반적인 프로그램이라면 같은 입력에 같은 절차를 적용해도 되는 경우가 많습니다. 하지만 로봇은 바닥 상태나 센서의 작은 차이처럼, 매번 조금씩 달라지는 환경 안에서 움직입니다. 그래서 모든 상황에 대한 동작을 사람이 하나씩 적어 두는 방식은 오래 버티기 어렵습니다. 저는 이 한계를 줄이기 위해 로봇이 관측을 바탕으로 행동을 고르는 학습 방식을 함께 살펴보고 있습니다.
시뮬레이션은 컴퓨터 안에 만든 가상의 실험 환경입니다. 처음에는 실제 로봇보다 가상 환경에서 잘 움직이면 문제가 해결되는 줄 알았습니다. 하지만 가상 환경은 현실의 복잡함을 전부 담지 못하므로, 시뮬레이션 결과를 곧바로 현실의 보증으로 받아들이는 선택은 피해야 했습니다. 대신 저는 실제 장비에서 확인하기 전에 질문을 잘게 나누고, 실패 원인을 비교하기 위한 연습장으로 시뮬레이션을 사용합니다.
여기서 말하는 학습은 로봇이 예쁜 동작 하나를 반복해서 외우게 하는 일과 다릅니다. 관측된 상태를 보고 다음 행동을 정하는 정책, 쉽게 말해 상황마다 선택하는 규칙을 만들고 검토하는 과정에 가깝습니다. 그래서 어떤 장면에서만 잘 보이는 결과보다 조건이 달라졌을 때 무엇이 유지되고 무엇이 흔들리는지를 봐야 합니다. 이 기준이 없으면 학습이 되었다는 말도 무엇을 뜻하는지 불분명해집니다.
이 블로그가 세 갈래를 나누는 이유
이 블로그의 Setup, Project, Research는 서로 다른 글감 목록이 아닙니다. Setup에서는 질문을 시험할 환경을 어떻게 준비하는지, Project에서는 그 환경에서 어떤 흐름으로 구현과 평가가 이어지는지, Research에서는 선택의 근거가 된 개념과 논문을 다룹니다. 이 셋을 한 글에 몰아넣는 방식은 독자가 현재 보고 있는 문제가 무엇인지 놓치게 만들 수 있어 선택하지 않았습니다. 대신 하나의 질문이 세 공간을 오가며 조금씩 구체화되는 모습을 남기려 합니다.
Physical AI는 멋진 데모 한 장면으로 설명하기 어려운 분야입니다. 로봇이 한 행동의 뒤에는 환경의 가정, 학습의 기준, 평가의 판단이 함께 들어 있기 때문입니다. 그래서 이곳에서는 결과만 모으기보다, 어떤 질문이 있었고 왜 그 선택을 했는지를 기록하려 합니다. 오늘의 출발점은 로봇·시뮬레이션·학습을 따로 보면 놓치는 것이 많다는 점이고, 다음에는 로봇의 ‘정책’이 실제로 어떤 질문에 답하는 도구인지 더 풀어 보려 합니다.
한 장으로 보는 Physical AI의 닫힌 루프
로봇, 시뮬레이션, 학습을 따로 설명하면 각 기술은 이해하기 쉬워지지만 실제 시스템이 왜 실패했는지는 설명하기 어렵습니다. 정책이 좋은 행동을 제안해도 시뮬레이터의 가정이 틀리거나 제어기가 목표를 따라가지 못하면 결과는 달라집니다. 그래서 저는 Physical AI를 모델 하나가 아니라 관찰에서 평가까지 되돌아오는 닫힌 루프로 봅니다. 한 계층의 출력이 다음 계층의 입력이 되고, 실행 결과가 다시 관찰과 학습 기준을 수정합니다.
관찰 센서·상태
정책 다음 행동 선택
제어 관절 명령 변환
실행 물리 세계 변화
평가 성공·실패 판정
평가 결과 → 관측·보상·모델 가정 수정 → 다시 실행
정책은 미리 적어 둔 동작 목록이 아니라, 현재 관찰을 입력받아 다음 행동을 고르는 규칙입니다.
지도의 세 갈래 — 정책·디지털 트윈·실험 설계
로봇이 걷는 영상을 보면 관절 동작을 순서대로 저장해 재생하는 것처럼 보일 수 있습니다. 그러나 같은 순서를 반복하면 작은 기울기나 바닥 변화에 대응하지 못합니다. 정책은 현재 몸의 자세와 명령을 보고 다음 관절 목표를 계산하는 규칙이며, 같은 명령이라도 관찰이 달라지면 다른 행동을 낼 수 있습니다. 현재 보행 프로젝트에서도 전진 명령만 넣는 것이 아니라 몸통 자세, 관절 상태, 접촉과 이전 행동을 함께 관찰하게 한 이유가 여기에 있습니다.
디지털 트윈을 현실 로봇과 똑같은 가상 복제품으로 생각하면 시뮬레이션 결과를 지나치게 믿게 됩니다. 실제로는 질량, 관절 마찰, 센서 지연, 바닥 접촉처럼 틀릴 수 있는 가정을 모아 둔 실행 가능한 모델에 가깝습니다. 저는 시뮬레이션에서 잘 걷는 장면을 현실 성능의 증명으로 사용하지 않고, 어떤 가정이 결과를 지배하는지 찾는 도구로 사용합니다. 시뮬레이션과 현실의 차이는 실패가 아니라 다음에 측정해야 할 항목을 알려 주는 오차입니다.
강화학습은 알고리즘을 실행하는 순간부터 시작되는 것처럼 보이지만, 실제 행동은 그보다 앞선 환경 설계에서 크게 정해집니다. 무엇을 관찰하게 할지, 어떤 행동 범위를 허용할지, 넘어짐을 언제 종료할지, 무엇을 보상할지를 정하면 로봇이 탐색할 세계의 경계가 생깁니다. 보행 학습에서 오래 버티는 점수만 높였을 때 걷지 않고 서 있으려는 행동이 나타날 수 있는 이유도 이 경계 때문입니다. 그래서 학습 로그를 읽을 때 알고리즘 이름보다 먼저 관찰·행동·보상·종료 조건을 확인합니다.
현재 프로젝트의 위치와 이 지도를 읽는 순서
현재 프로젝트는 이 루프 전체를 한 번에 완성하려 하기보다 계층별 계약을 검증하고 있습니다. 시뮬레이션과 학습 계층에서는 G1의 보행 정책과 고정 평가를 만들었고, 실행 계층에서는 자연어 목표가 가능한 제어 백엔드로 전달되는 경계를 나눴습니다. 전진보행의 첫 기준선은 확보했지만 회전, 외란 복구, 실제 장치 연결과 조작 작업은 아직 검증 범위 밖입니다. 따라서 지금의 결과를 Physical AI 전체의 성공으로 부르지 않고, 이동 계층 하나가 정해진 조건을 통과한 상태로 기록합니다.
처음 읽는다면 관찰→정책→제어→실행→평가의 흐름을 먼저 잡고, 각 글에서 어느 칸을 다루는지 확인하는 편이 좋습니다. 보행이 궁금하면 정책과 평가를, 자연어 명령이 궁금하면 상위 목표와 실행 백엔드의 경계를, 시뮬레이션이 궁금하면 모델 가정과 현실 차이를 따라가면 됩니다. 오늘의 배움은 Physical AI가 여러 기술의 목록이 아니라 서로의 오류를 되돌려 주는 루프라는 것입니다. 다음 단계는 각 프로젝트 글의 첫머리에 이 지도에서 현재 위치를 표시해 독자가 세부 구현을 전체 흐름 안에서 읽을 수 있게 하는 일입니다.
함께 읽을 글
Physical AI의 여러 층을 처음 만났다면, 용어보다 질문의 순서부터 잡아 보는 편이 낫습니다.