로봇 파운데이션 모델 π0.7이 보여준 일반화 — 피지컬 인텔리전스 콴 브엉 ETH 취리히 강연

핵심 메시지

• π0.7은 작업마다 따로 조정한 전문 정책을 하나의 사전학습 체크포인트로 대체하면서, 여러 과제에서 전문 정책과 같거나 더 나은 성능을 냈다.
• 데이터를 무작정 늘리면 성능이 떨어졌지만, 각 시연의 속도와 품질을 메타데이터로 함께 알려 주자 같은 저품질 데이터가 오히려 큰 이득으로 바뀌었다.
• 셔츠 개기 데이터를 한 로봇에서만 모았는데도 다른 형태의 로봇에서 같은 작업이 수행돼, 로봇과 작업의 조합을 넘어선 전이가 확인됐다.
• 일반화 모델이 전문 모델을 앞서는 이유로 실제 평가 환경이 늘 조금씩 달라진다는 점이 지목됐다 — 조명이나 물체가 바뀌어도 덜 흔들리기 때문이다.
• 가정용 로봇은 기술과 사업 양쪽에서 아직 이르다고 보고, 모델 능력을 키우면서 지금 성립하는 현장부터 투입하는 전략이 제시됐다.

쉽게 이해하기

ETH 취리히의 로봇 학습 강의에 피지컬 인텔리전스 공동창업 멤버 콴 브엉이 초청 강연자로 나섰다. 주제는 최근 공개된 로봇 모델 π0.7이다. 핵심 주장은 단순하다. 지금까지는 특정 작업에서 높은 성능을 내려면 사전학습 모델을 그 작업에 맞춰 다시 조정해야 했는데, 이번에는 하나의 체크포인트가 여러 작업을 전문가 수준으로 수행했다는 것이다.

모델을 하나로 묶는 일이 왜 중요한가에 대해 강연자는 운영의 문제를 들었다. 작업마다 다른 체크포인트와 다른 설정을 관리해야 한다면 규모를 키우기 어렵다는 것이다. 구조 자체는 이전 세대와 크게 다르지 않다. 언어모델과 사전학습된 시각 인코더에 행동을 생성하는 부분을 붙여, 모델이 로봇의 언어를 말하도록 가르치는 방식이다.

가장 흥미로운 결과는 데이터에 관한 것이었다. 품질이 낮은 데이터까지 학습에 넣자 성능이 오히려 떨어졌는데, 각 시연이 얼마나 빠르고 얼마나 잘된 것인지를 메타데이터로 함께 넣어 주자 같은 데이터가 성능을 크게 끌어올렸다. 데이터를 무엇으로 채우느냐만큼 그 데이터가 어떤 것인지 모델에 알려 주는 일이 중요하다는 이야기다.

일반화 사례도 제시됐다. 셔츠 개기는 상태 공간이 사실상 무한해 수백 시간 분량의 데이터가 필요한 어려운 작업인데, 한 종류의 로봇에서 모은 셔츠 개기 데이터만으로 학습한 정책이 전혀 다른 구성의 로봇 팔에서도 같은 작업을 수행했다. 사람이 말로 지시를 덧붙이면 학습에 없던 재료를 다루는 조리 작업까지 시도할 수 있었다.

강연 후반은 실제 배치 이야기였다. 협력 기업의 로봇이 샌프란시스코의 실제 세탁소에서 처음 보는 옷을 개고, 물류 현장에서는 다양한 물건을 완충 봉투에 넣고 밀봉된 포장을 옮기는 작업을 하루 종일 대부분 자율로 수행했다. 관건은 사람이 원격으로 개입해 실수를 되돌리는 횟수를 얼마나 줄여 채산이 맞는 수준에 도달하느냐다.

주요 인사이트

• 데이터의 양과 질을 이분법으로 다루는 대신, 질이 낮은 데이터에 '이건 느리고 서툰 시연'이라는 꼬리표를 붙여 함께 학습시키는 접근이 실효를 보였다.
• 실험실 평가에서도 조명이나 물체 배치 같은 변수가 늘 조금씩 달라지기 때문에, 모든 실제 평가는 사실상 일반화 평가라는 관점이 제시됐다.
• 다섯 손가락 손 대신 두 손가락 그리퍼를 고집하는 이유는 성능이 아니라 규모다 — 싸고, 튼튼하고, 수를 늘리기 쉬운 세 조건을 동시에 만족해야 하기 때문이다.
• 로봇 파운데이션 모델과 세계 모델 중 무엇이 더 잘 확장되는지는 아직 결론이 없고, 긴 문맥 처리 능력과 추론 속도가 판단의 축으로 언급됐다.
• 가정용 로봇이 늦어지는 이유로 기술 한계뿐 아니라 소비자마다 기대치가 제각각이라는 점이 꼽혔다 — 같은 성공률도 누군가에겐 충분하고 누군가에겐 부족하다.

자주 묻는 질문

관련 AI 소식