소니 AI 탁구 로봇 에이스 분석: 시뮬레이션 강화학습이 엘리트 선수를 이긴 방법

핵심 메시지

• 체스나 바둑과 달리 탁구는 시간이 멈추지 않고 정보도 불완전한 실시간 물리 환경이라, 1983년부터 이어진 연구들도 코트를 줄이거나 회전을 없애는 식으로 규칙을 단순화해 왔다.
• 소니 AI의 에이스는 규칙을 그대로 둔 채, 시뮬레이터에서만 학습한 정책을 실제 코트로 옮길 수 있는지를 묻는다. 실제 로봇으로는 시합 데이터를 한 번도 모으지 않았다.
• 인지 계통은 코트 둘레의 카메라 아홉 대로 공의 3차원 위치를 3밀리미터 오차로 잡고, 이벤트 기반 비전 카메라 세 대로 회전을 초당 400~700헤르츠로 측정한다.
• 국제탁구연맹 공식 규칙과 인증 심판 아래 치른 시합에서 로봇은 10년 이상 경력의 엘리트 5명 중 3매치를 이겼지만, 일본 프로리그 현역 선수 2명에게는 두 매치를 모두 내줬다.
• 한계도 분명하다. 빠른 공과 극단적인 회전 구간에서는 아직 사람을 따라가지 못하고, 시뮬레이션을 정밀하게 맞추는 데 카메라 보정과 물리·노이즈 모델링이라는 큰 공학 비용이 들었다.

쉽게 이해하기

영상은 2026년 4월 네이처에 실린 소니 AI의 탁구 로봇 논문을 해설한다. 출발 질문은 왜 하필 탁구가 어려웠는가다. 체스와 바둑, 스타크래프트에서 AI는 이미 사람을 이겼지만 그 승부들은 모두 화면 속에서 벌어졌다. 시간이 멈춰 있고 정보가 완전하게 주어지는 세계다. 탁구는 정반대다. 고수의 경기에서 공은 초속 20미터, 시속으로는 70킬로미터를 넘고 회전은 초당 1000라디안까지 간다. 샷과 샷 사이는 0.5초가 되지 않는데 사람의 평균 시각 반응 시간이 0.25초 수준이니 한계에 가까운 속도다. 그래서 기존 연구들은 코트를 줄이거나 회전 없는 공을 쓰거나 사람이 넣는 서브를 빼는 식으로 문제를 손봐 왔고, 시뮬레이터 안의 강화학습이 실제 코트로 넘어오면 노이즈와 사람이라는 변수에 무너졌다.

에이스는 인지와 제어, 하드웨어 세 부분으로 구성된다. 인지에서는 코트 둘레에 설치한 액티브 픽셀 센서 카메라 아홉 대가 초당 200회 촬영해 공의 3차원 위치를 3밀리미터 오차로 잡는다. 그러나 위치만으로는 공이 어디로 휘어질지 알 수 없어 회전을 따로 측정해야 한다. 이를 위해 이벤트 기반 비전 카메라와 망원 줌 렌즈, 거울을 움직여 공을 따라가는 갈바노 미러를 묶은 시선 제어 장치 세 대를 더 둔다. 일반 카메라가 한 장씩 사진을 찍는 것과 달리 이벤트 카메라는 픽셀마다 밝기 변화를 마이크로초 단위로 즉시 보고하기 때문에, 빠르게 도는 공의 무늬가 흐려지지 않는다. 이 데이터로 회전을 초당 400에서 700헤르츠로 측정한다.

제어에는 심층 강화학습이 들어간다. 알고리즘은 소프트 액터 크리틱이고 정책은 수십 밀리초 간격으로 새 행동을 내놓으며, 받아치는 정책을 여러 개 따로 학습해 상황에 맞춰 쓴다. 핵심은 이 모든 학습이 시뮬레이터 안에서만 이뤄졌다는 점이다. 학습 구조로는 비대칭 액터 크리틱을 써서 평가자에게는 시뮬레이터의 정확한 정보를 주고 정책에는 노이즈 낀 센서 데이터만 준다. 시뮬레이션에서 배운 것이 실제 환경으로 옮겨졌을 때 무너지지 않게 하려는 장치다. 하드웨어는 직선 관절 두 개와 회전 관절 여섯 개로 8자유도를 갖추고 라켓 끝 최대 속도는 프로의 드라이브 샷에 맞춘 초속 20미터이며, 라켓 자체는 시판 제품을 그대로 썼다.

시합은 두 그룹을 상대로 치러졌다. 첫째는 10년 넘게 탁구를 친 엘리트 5명으로 여성 셋, 남성 둘이며 지역이나 전국 대회 경험이 있는 선수들이다. 둘째는 일본 프로리그 현역 선수 2명이다. 중요한 조건은 모든 시합이 국제탁구연맹 공식 규칙을 그대로 따랐다는 점이다. 올림픽 규격 코트와 공식 라켓, 공식 공을 썼고 일본 탁구 협회가 인증한 심판 두 명이 양쪽에서 판정했다. 엘리트 5명과의 3판 2선승 대결에서 로봇은 3매치를 이겼고 게임 기준으로는 10게임 중 7게임을 따냈다. 가장 큰 무기는 서브였다. 15가지 서브를 자유자재로 구사해 서브 득점만 16개를 기록했는데, 엘리트 선수들이 합쳐서 기록한 8개의 정확히 두 배다. 회전이 초당 450라디안에 이르는 공에도 75퍼센트 이상의 리턴 성공률을 유지했다.

그러나 프로를 상대로는 두 매치를 모두 졌고 전체 게임 가운데 하나만 따냈다. 리턴 능력을 숫자로 보면 차이가 드러난다. 로봇이 되받아치는 공의 속도는 초속 16.4미터까지인 반면 사람은 19.6미터까지 치고, 회전 역시 사람이 훨씬 높은 값을 만들어 낸다. 로봇은 초속 16미터를 넘는 빠른 샷에서 리턴 성공률이 급격히 떨어지는데, 사람도 같은 구간에서 떨어지지만 프로는 그 구간 너머의 공을 만들어 낼 수 있다는 점이 승부를 갈랐다. 인상적인 장면도 있었다. 시합 중 공이 네트에 스쳐 궤도가 바뀌는, 시뮬레이터에서 거의 학습하지 못한 상황이 벌어졌는데 로봇은 접촉 직후 궤도를 다시 계산해 받아쳤다.

영상은 이 결과의 의미를 세 가지로 정리한다. 첫째는 시뮬레이션에서만 학습한 정책이 사람이 일부러 어려운 공을 보내는 적대적 환경에서도 작동했다는 점으로, 강화학습이 오래 붙들고 있던 시뮬레이션과 현실 사이의 간극 문제에 대한 강력한 증거다. 둘째는 인지 시스템의 재발견이다. 자율주행과 드론에서 주목받던 이벤트 카메라가 빠르게 회전하는 물체를 잡는 데 결정적으로 유리하다는 사실이 다시 확인됐고, 산업용 검사 장비나 의료 기기로도 이어질 수 있다. 셋째는 사람과 같은 시간 척도에서 실제 물리 공간의 상호작용을 해내는 AI라는 더 큰 그림으로, 제조 라인의 협업이나 사람의 빠른 동작에 맞추는 서비스 로봇에 같은 기술이 쓰일 수 있다. 저자들이 밝힌 다음 단계는 사람이 어디로 칠지 같은 전략 모델을 더 풍부하게 학습하는 일과 실제 시합 중 온라인으로 적응하는 일이다.

주요 인사이트

• 이 연구의 성취는 승패보다 학습 방식에 있다. 실제 로봇으로 시합 데이터를 한 번도 모으지 않고 시뮬레이터에서만 배운 정책이 진짜 코트에서 작동했다는 사실이, 강화학습이 오래 씨름해 온 현실 이전 문제에 대한 답에 가깝다.
• 비대칭 액터 크리틱은 이 이전을 가능하게 한 설계다. 평가자에게는 정확한 정보를, 실제로 행동하는 정책에는 노이즈 낀 센서 데이터만 주는 구조가 시뮬레이션에서만 통하는 요령을 배우지 않게 막는다.
• 센서 선택이 성능의 상한을 정했다. 프레임 단위로 찍는 일반 카메라로는 회전하는 공이 흐려져 회전을 읽을 수 없었고, 밝기 변화를 마이크로초 단위로 보고하는 이벤트 카메라가 있었기에 회전 측정이 가능해졌다.
• 패배 구간이 뚜렷하다는 점이 오히려 정보다. 초속 16미터를 넘는 공에서 리턴 성공률이 급락한다는 사실은 다음 개선이 어디를 향해야 하는지를 그대로 가리킨다.
• 일반화 비용은 여전히 크다. 시뮬레이션을 현실과 맞추기 위한 카메라 보정과 물리·노이즈 모델링에 상당한 공학 자원이 들어갔고, 다른 분야에 같은 방식을 적용하려면 그만한 모델링 비용을 다시 치러야 한다.

자주 묻는 질문

관련 AI 소식