보행 정책의 생존율만으로는 평가할 수 없는 것들

휴머노이드가 평가 시간 동안 한 번도 넘어지지 않았다면 보행은 성공한 걸까요. G1의 v590과 v600 후보는 낙상과 발 교차가 0%였지만 둘 다 다음 기준점으로 승격되지 못했습니다. 생존은 확인했지만, 저속 전진과 형태, raw action을 함께 보면 기준 정책보다 나빠진 항목이 있었기 때문입니다.

생존은 첫 번째 문일 뿐입니다

보행 평가의 첫 층은 명확합니다. 넘어졌는가, 발이 교차했는가, 명령한 방향으로 이동했는가를 봅니다. 그러나 이 조건만 통과하면 제자리에서 버티거나 상체와 팔을 과도하게 써서 균형을 맞추는 정책도 살아남을 수 있습니다. 그래서 두 번째 층에서 이동거리와 방향 오차를, 세 번째 층에서 발 간격·골반·허리·팔의 형태를, 네 번째 층에서 raw action의 크기·포화·변화율을 확인합니다.

평가 층 대표 질문 놓치기 쉬운 실패
생존·접촉 넘어졌는가, 발이 교차했는가 제자리 버티기
과제 성능 저속·일반 속도에서 얼마나 전진했는가 특정 속도만 퇴행
형태 발 간격과 상체 자세가 허용 범위인가 과도한 보상 동작
행동 신호 raw action이 포화되거나 급변하지 않는가 시각적으로 늦게 드러나는 불안정

v585, v590, v600이 보여 준 서로 다른 답

비학습 base인 v585는 저속 이동거리를 2.163 m에서 2.857 m로 늘렸고, 일반 속도 조건은 8.212 m에서 8.177 m로 거의 유지했습니다. 낙상과 발 교차도 0%였습니다. 그래도 morphology gate를 모두 통과하지 못했기 때문에 ‘좋아진 부분이 있는 비교 기준’으로만 남았습니다.

v590은 일반 속도와 생존 조건을 유지했지만 저속 이동거리가 2.8568 m에서 2.1369 m로 줄었습니다. raw arm 지표도 나빠졌습니다. v600은 저속 거리가 2.6089 m로 회복됐지만 기준보다 0.2479 m 부족했고, 전체 morphology/raw gate를 통과하지 못했습니다. v601의 15초 최종 저속 trace에서도 기준 대비 -0.5444 m가 확인됐습니다.

같은 숫자도 평가 조건이 다르면 비교하지 않습니다

이동거리는 직관적이지만 단독으로 쓰기 어렵습니다. 명령 속도, 실행 시간, reset 자세, 지형, 정책 seed가 달라지면 같은 2 m도 다른 결과입니다. 그래서 저속과 일반 속도를 분리하고, 후보와 기준을 같은 시나리오에서 비교합니다. v585의 저속 2.8568 m를 v590과 v600의 기준으로 계속 사용한 것도 절대적인 합격 거리라서가 아니라, 변경 전후에 같은 질문을 유지하기 위해서였습니다.

형태 지표도 화면의 인상만 숫자로 옮긴 것이 아닙니다. 발 간격이 무너지거나 몸통·골반·팔이 지속적으로 보상하면 정책은 전진할 수 있어도 다른 명령이나 외란에서 여유가 줄어듭니다. raw action의 포화와 변화율은 이 현상이 관절 움직임으로 늦게 드러나기 전에 정책 출력에서 확인하려는 신호입니다. 따라서 이동거리 개선과 형태 악화가 함께 나오면 두 값을 평균내지 않고 실패 관문을 그대로 남깁니다.

좋아진 수치를 원인으로 착각하지 않습니다

v590과 v600에서 저속 전진이 줄고 raw arm 지표가 나빠졌다고 해서, 팔이 원인이라고 바로 결론 내릴 수는 없습니다. 팔과 몸통의 보상은 같은 정책 출력에서 함께 변하고, 발 접촉이나 base state가 팔 움직임을 유발했을 가능성도 있습니다. 화면상 팔 흔들기와 이동거리 저하가 동시에 보인다는 것은 상관관계이지 입력–응답 관계의 증명이 아닙니다.

이 때문에 다음 실험은 reward를 다시 조정하거나 PPO를 더 오래 돌리는 쪽으로 가지 않았습니다. 어떤 관절을 언제 자극했는지 구분 가능한 입력을 먼저 만들고, 그 입력에 대한 post-policy/pre-physics 응답을 기록해야 했습니다. 평가가 원인을 확정하지 못한다는 사실이 M160a의 독립 excitation 설계로 이어졌습니다.

평가는 원인을 확정하지 않고 다음 질문을 좁힙니다

이 수치만으로 팔 동작이 저속 전진을 망쳤다고 단정할 수는 없습니다. 원인을 확인하려면 관절 자극과 응답이 식별 가능한 설계가 필요합니다. 그래서 teacher-overlay 분기를 더 학습시키지 않고, 오른팔 관절만 독립적으로 자극하는 M160a CPU 계약으로 질문을 줄였습니다.

평가의 목적은 하나의 종합 점수를 만드는 것이 아닙니다. 어떤 조건은 유지됐고 어떤 조건이 무너졌는지를 분리해 다음 실험의 입력으로 넘기는 것입니다. 화면상 자연스러움은 Isaac Sim 캡처로 확인하되, 보기 좋은 한 장면이 반복 에피소드의 수치를 대신하게 두지 않습니다.

앞으로 runtime capture가 승인되면 같은 reset pair에서 자극 스케줄, 정책 출력, 물리 적용 직전 명령, 실제 관절 응답을 함께 맞춰 볼 예정입니다. 그 데이터가 있어야 팔의 독립 반응과 전신 보상을 분리할 수 있습니다. 현재까지 제가 내릴 수 있는 가장 방어 가능한 결론은 v585가 일부 성능을 개선한 비교 기준이고 v590·v600은 승격 실패 후보이며, 팔이 실패 원인이라는 가설은 아직 검증 전이라는 것입니다.

이 결과를 실제 중단·승인 결정으로 바꾸는 과정은 좋은 실험은 멈출 근거를 만드는 일에서 다룹니다.

댓글 달기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다

위로 스크롤