로봇 강화학습 탐색 전략 정리: 시뮬레이터와 사람 시연 데이터를 제대로 쓰는 방법과 실제 로봇 실험 결과
UC 버클리 연구자가 TTIC 강연에서 시뮬레이터의 최적 정책을 실물 로봇으로 그대로 옮기는 기존 방식의 한계를 짚고, 대신 탐색 정책을 옮기거나 사람 시연을 사후분포로 학습하는 접근과 실제 로봇에서 확인한 개선 폭을 설명했다.
핵심 내용 읽기 →AI TOPIC
로봇 학습 관련 핵심 뉴스와 활용 인사이트 37편을 최신순으로 모았습니다.

UC 버클리 연구자가 TTIC 강연에서 시뮬레이터의 최적 정책을 실물 로봇으로 그대로 옮기는 기존 방식의 한계를 짚고, 대신 탐색 정책을 옮기거나 사람 시연을 사후분포로 학습하는 접근과 실제 로봇에서 확인한 개선 폭을 설명했다.
핵심 내용 읽기 →
코넬대 하다스 크레스가지트 교수가 CMU 로보틱스 세미나에서 데이터 기반 로봇 학습과 형식 기법의 강점이 정확히 엇갈린다고 짚었다. 시간 논리로 로봇 행동을 명세하고, 강건성 수치로 실패를 미리 경고하는 방법을 정리했다.
핵심 내용 읽기 →
엔비디아 GEAR 랩과 UT오스틴 연구실을 함께 이끄는 유커 주 교수가 CMU 세미나에서 휴머노이드를 데이터 문제로 규정하고, 실제 로봇 데이터의 한계와 시뮬레이션·영상 생성 모델로 학습 데이터를 불리는 코트레이닝 전략을 설명했다.
핵심 내용 읽기 →
내비게이션은 거의 풀렸고 보행은 진전이 있지만 조작은 여전히 미해결이다. 버클리 지텐드라 말리크 교수가 CMU 세미나에서 언어 모델 중심 로보틱스를 비판하며, 아이 발달에서 배운 실제-시뮬레이션-실제 학습과 촉각 센싱을 대안으로 제시했다.
핵심 내용 읽기 →
언어 모델에서는 선형으로 쌓이는 모방학습 오차가 연속 제어에서는 지수로 폭발한다. CMU 로보틱스 세미나는 액션 청킹과 생성형 제어 정책이 왜 이 문제를 실제로 완화하는지 이론과 절제 실험으로 함께 짚는다.
핵심 내용 읽기 →
스탠퍼드 로보틱스 세미나에서 소개된 Ψ0는 사람이 머리에 쓴 카메라로 모은 1인칭 영상으로 사전학습해, 40여 개 관절을 가진 휴머노이드가 걸으면서 물건을 다루게 만든 로봇 모델이다. 데이터 수집과 실시간 제어 설계를 정리했다.
핵심 내용 읽기 →
손을 떼면 학습이 잘된다는 실험 결과에서 출발해, 휴머노이드 로봇이 복잡한 동작을 익히기 어려운 이유와 연구자들이 찾은 네 가지 돌파구를 UC 버클리 세미나 발표를 바탕으로 정리했다. 의자를 밟고 올라선 뒤 뛰어내려 낙법으로 착지하는 동작까지 다룬다.
핵심 내용 읽기 →
구글 딥마인드 판나그 산케티가 버클리 세미나에서 공개한 탁구 로봇 8년 개발기. 시뮬레이션 학습의 벽을 넘어선 방법과 특화 스킬 라이브러리 구조, 아마추어 참가자 상대 승률과 아직 남은 약점까지 정리했다.
핵심 내용 읽기 →
스탠퍼드 로보틱스 세미나 강연을 정리했다. 원격조종이 왜 좁고 손실이 큰 통로인지 짚고, 안경형 기기로 모은 사람 1인칭 데이터로 로봇을 학습시킨 실험과 2만 시간 사전학습에서 나타난 확장 곡선, 그리고 아직 남은 과제까지 담았다.
핵심 내용 읽기 →
워싱턴대·Ai2의 디터 폭스가 ETH 취리히 강연에서 로봇 학습의 병목은 모델이 아니라 데이터라고 짚었다. 시연으로 배운 로봇의 한계와, 시뮬레이션으로 조작 능력을 넓히는 '파운데이션 월드' 구상을 정리했다.
핵심 내용 읽기 →
허깅페이스 르로봇 세미나에서 공개된 오픈소스 비전-언어-행동 모델 OpenVLA를 정리했다. 행동을 토큰으로 바꾼 설계, 기존 모델과의 성능 비교, LoRA 미세조정과 4비트 양자화, 그리고 남은 한계까지 차례로 짚는다.
핵심 내용 읽기 →
구글 딥마인드에서 로봇 학습을 이끌던 테드 샤오가 취리히 공대 초청 강의에서 지난 10년을 세 시대로 나눠 정리했다. 로봇 팔 농장 실험과 파운데이션 모델 도입, 그리고 지금의 데이터·평가 스케일 경쟁까지 짚는다.
핵심 내용 읽기 →
워싱턴대 아비셰크 굽타 교수가 ETH 취리히 로봇 학습 강의에서 휴대폰 영상 한 편으로 상호작용 가능한 시뮬레이션을 만들고, 보상 설계 없이 리셋만으로 가구 조립을 학습시킨 뒤 실제 로봇에 옮기는 방법을 소개했다.
핵심 내용 읽기 →
4족 보행 로봇부터 드론까지 서로 다른 로봇을 하나의 언어로 다루는 강체와 좌표계, 순기구학과 역기구학의 기초부터 이를 학습 문제로 바꾸는 마르코프 결정 과정까지 ETH 취리히 강의 내용을 정리했다.
핵심 내용 읽기 →
ETH 취리히 로봇 학습 강의 3강이 다룬 모방학습의 구조를 정리했다. 행동 복제의 오차가 왜 단계 수의 제곱으로 커지는지, DAgger와 이산화·디퓨전·잠재변수 모델이 분포 이동과 멀티모달 행동을 어떻게 완화하는지 살펴본다.
핵심 내용 읽기 →
ETH 취리히 로봇 학습 강의 4강을 정리했다. 전문가 시연을 흉내 내는 모방 학습의 한계에서 출발해 가치 반복과 Q러닝, DQN, 연속 행동을 다루는 DDPG까지 이어지는 강화학습의 계보를 짚는다.
핵심 내용 읽기 →
ETH 취리히 로봇 학습 강의 5회차를 정리했다. 정책 경사 정리의 유도부터 인과성과 베이스라인으로 분산을 줄이는 과정, 중요도 샘플링과 TRPO·PPO의 차이, 그리고 소프트 액터 크리틱까지 차례로 이어진다.
핵심 내용 읽기 →
피지컬 인텔리전스 공동창업 멤버가 ETH 취리히 초청 강연에서 로봇 모델 π0.7을 설명했다. 하나의 체크포인트로 빨래 개기·나사 조이기·포장을 모두 해낸 과정, 저품질 데이터를 메타데이터로 살려 낸 방법, 로봇을 바꿔도 작업이 옮겨 간 사례와 남은 과제를 정리했다.
핵심 내용 읽기 →
ETH 취리히 로봇 학습 강의 6강이 관측을 행동으로 옮기는 문제를 분포 학습으로 다시 세우고, 오토인코더에서 VQ-VAE, 확산 정책, 플로 매칭으로 이어지는 생성모델 세 계보와 각 기법이 부딪힌 한계를 차례로 정리했습니다.
핵심 내용 읽기 →
소셜미디어에서는 매주 로봇공학이 해결됐다는 선언이 나오지만 실험실 밖에서는 여전히 무너진다. ETH 취리히 로봇 학습 강좌 마지막 회차가 짚은 일반화·촉각·강화학습·평생학습의 미해결 과제와 연구 방법론을 정리했다.
핵심 내용 읽기 →
ETH 취리히 로봇 학습 강의에 초청된 메타 연구자가 컴퓨터 비전이 8년 만에 쓸 만해진 과정을 사전학습·중간학습·미세조정 레시피로 정리하고, 규모 확장의 조건과 데이터 필터링의 함정, 추론과 계획이라는 남은 과제를 짚었다.
핵심 내용 읽기 →
ETH 취리히 로봇 학습 강의 9강 정리. 하나의 모델로 여러 로봇을 제어하는 제너럴리스트 로봇 정책이 데이터 수집, 이종 데이터 모델링, 평가 비용이라는 세 관문을 어떻게 넘고 있는지 Octo와 최신 VLA 학습법을 통해 살펴본다.
핵심 내용 읽기 →
ETH 취리히 로봇 학습 강의는 데이터를 더 모으는 대신 추론을 학습시키는 접근을 다룬다. 체화된 사고 사슬로 일반화가 약 30% 오르지만 행동이 느려지는 문제를 어떻게 되돌리는지, 테스트 시점 연산의 한계는 어디인지 정리했다.
핵심 내용 읽기 →
ETH 취리히 로봇 학습 강의가 설명하는 시퀀스 모델링을 정리했다. 관측 한 장면으로 다음 동작을 정하는 반응형 정책의 한계에서 출발해 어텐션과 규모 확장, 시각·언어 결합, 로봇 행동의 토큰화와 액션 청킹까지 이어지는 흐름을 짚는다.
핵심 내용 읽기 →
5억 4천만 년 전 최초의 눈이 캄브리아기 폭발을 열었듯, 페이페이 리는 기계가 3차원 공간을 이해하고 예측해 행동하는 '공간지능'이 AI의 다음 단계라고 말한다. 이미지넷부터 로봇 학습까지 짚은 TED 강연을 정리했다.
핵심 내용 읽기 →
엔비디아 연구원이 TTIC 강연에서 파운데이션 모델로 범용 로봇의 뇌를 만드는 방법을 설명했다. 행동을 텍스트로 출력하고, 점군을 정투상 이미지로 바꾸고, 전문가 모델과 계층으로 결합하는 세 가지 접근을 소개한다.
핵심 내용 읽기 →
사람의 행동 영상은 넘쳐나는데 로봇은 왜 그것으로 배우지 못할까. 더 큰 VLA와 월드 모델만으로는 범용 로봇에 닿을 수 없다며 네 가지 인터페이스를 제안한 2026년 포지션 페이퍼를 따라가 본다.
핵심 내용 읽기 →
구글 로보틱스 연구진이 버클리 강연에서 언어 모델을 로봇의 계획 수립에 쓰는 방법과, 로봇이 실제로 할 수 있는 일을 반영하는 어포던스 모델의 역할, 그리고 남은 과제와 실패 사례를 설명했다.
핵심 내용 읽기 →
이미지 생성에 쓰이던 확산 모델이 이제 로봇 팔의 궤적을 만들어낸다. MIT 6.S184 강의에서 토요타 리서치 연구자가 수백 건의 시연만으로 되는 일과, 데이터 부족에서 오는 취약성이라는 한계를 함께 정리했다.
핵심 내용 읽기 →
이미지 생성에 쓰던 확산 모델로 로봇 행동을 만드는 확산 정책. 왜 행동의 평균을 내는 정책이 실패하는지, 왜 행동을 한 걸음이 아니라 묶음으로 예측해야 하는지, 논문 저자가 개발 뒷이야기와 함께 직접 설명한다.
핵심 내용 읽기 →
복잡한 보상 함수 설계 없이 사람의 비교 판단만으로 에이전트를 학습시키는 선호 기반 강화학습을 정리했다. 질의를 순차적으로 뽑아 피드백 효율을 올리는 두 방법과, 보상 함수 자체를 없애는 방법을 살펴본다.
핵심 내용 읽기 →
ICLR 2025에 발표된 LAPA는 로봇 액션 라벨 없이 인터넷 영상만으로 VLA를 사전학습한다. 잠재 액션이라는 핵심 아이디어와 세 단계 학습 구조, 사람 영상만으로 OpenVLA를 앞선 대목과 남은 한계까지 정리했다.
핵심 내용 읽기 →
디지털 트윈이 정밀한 복제품을 넘어 로봇 학습 인프라로 바뀌고 있다. 이미지 한 장에서 시뮬레이션을 만들고 행동 데이터 생성과 강화학습, 정책 평가까지 맡는 GRS·Gen2Sim·RoboTwin 등 대표 연구 7편의 구조와 한계를 정리했다.
핵심 내용 읽기 →
로봇 학습의 진짜 병목은 모델 구조가 아니라 행동 데이터다. DexCap과 AirExo, AirExo-2가 사람의 시연을 어떻게 로봇이 배울 수 있는 형태로 바꾸는지, 그 변환 파이프라인을 정리했다.
핵심 내용 읽기 →
피지컬 인텔리전스의 π0.7 논문 리뷰. 좋은 시연만 골라 쓰는 대신 실패·저품질 데이터에 품질·속도·실수 메타데이터를 붙여 학습시키고, 언어 코칭과 목표 이미지로 훈련에 없던 작업까지 수행하는 구조를 정리했다.
핵심 내용 읽기 →
설거지 같은 일상 동작도 로봇에겐 복잡한 조작 문제다. ETH 취리히 강연에서 Shuran Song은 손에 쥐는 그리퍼 UMI로 로봇 학습 데이터를 모으고, 마이크·힘센서·체화 인식 정책으로 한계를 넘는 방법을 설명한다.
핵심 내용 읽기 →
허깅페이스 LeLab은 LeRobot 라이브러리의 그래픽 인터페이스로, 코드 없이 로봇 원격 조작·데이터셋 수집·모델 학습·배포까지 한 화면에서 처리한다. 작동 과정을 단계별로 정리했다.
핵심 내용 읽기 →