등변 신경망 완전 정리: 군 합성곱과 조종 가능 CNN으로 회전·반사까지 다루는 딥러닝 구조

핵심 메시지

• 고전적인 CNN은 작은 필터를 이미지 위로 미끄러뜨리는 템플릿 매칭이라 평행이동에만 등변하고, 회전한 물체는 사실상 다시 배워야 한다.
• 군 합성곱은 커널을 평행이동 대신 회전·반사 같은 군 변환으로 옮겨, 군의 원소마다 활성값을 담은 '구조화된 특징 맵'을 만든다.
• 발표자는 군 합성곱을 '필터에 데이터 증강을 적용하는 것'으로 이해하면 쉽다고 말한다. 큰 입력 대신 작은 필터를 변환하는 편이 훨씬 효율적이기 때문이다.
• 이산 군은 원소 수만큼 계산량이 늘어나 연속 회전 같은 큰 군에는 쓸 수 없고, 그래서 기저 필터의 선형결합을 쓰는 조종 가능 CNN이 제안됐다.
• 캡슐 네트워크는 스칼라 대신 벡터를 주고받아 위치와 방향 정보를 유지하고, 맥스 풀링 대신 동적 라우팅으로 상위 층에 정보를 넘긴다.

쉽게 이해하기

이 영상은 등변(equivariant) 딥러닝 시리즈의 두 번째 편으로, 합성곱 신경망을 일반화한 모델 구조들을 훑는다. 발표자는 관련 문헌이 너무 많아 전부 다룰 수는 없다고 전제하면서, 기초를 잡을 만한 논문 몇 편을 골라 소개한다. 군론과 표현론 수학이 처음에는 혼란스러울 수 있다는 점도 미리 인정한다.

출발점은 고전적인 CNN이다. CNN은 픽셀을 특징 맵으로 옮기며 작은 학습 가능한 필터로 비슷한 패턴을 찾는 템플릿 매칭을 수행한다. 이 구조는 입력이 평행이동하면 특징 맵도 같이 평행이동하는 성질, 즉 평행이동 등변성을 기본으로 갖는다. 군 합성곱은 이 '이동'을 더 일반적인 군 변환으로 바꾼 것으로, 각 픽셀이 회전 행렬 같은 군 원소에 의해 새 위치로 옮겨진다.

군 합성곱의 출력은 군의 원소마다 하나씩 대응하는 활성값 묶음이라 흔히 구조화된 특징 맵 또는 필터 뱅크라고 부른다. 첫 층을 지나면 기반 공간이 더 이상 픽셀 공간이 아니라 군 공간이 되므로, 이후 층에서는 이미 변환된 출력에 다시 군 변환을 가하는 형태가 된다. 실제 구현으로는 저자가 공개한 파이썬 라이브러리가 있고, 내부적으로는 파이토치의 일반 2D 합성곱을 모든 군 원소에 적용하는 방식이다.

의료 영상 논문에서는 평행이동과 2D 회전을 함께 쓰는 특수 유클리드 군을 사용해 2D 이미지를 3D 필터 뱅크로 '들어올리는' 층을 만든다. 병변처럼 방향이 제각각인 대상에 유리하고, 가중치 공유가 늘어 데이터와 파라미터 모두에서 효율적이다. 다만 군이 커지거나 연속 회전처럼 무한해지면 필터 뱅크 크기가 감당하기 어려워진다.

그 한계를 넘는 방향이 조종 가능 CNN이다. 필터를 기저 필터들의 선형결합으로 구성하면 군의 모든 원소에 대한 결과를 저장할 필요가 없어 계산 비용이 군 크기와 분리된다. 여기서는 채널 대신 각 위치에 벡터를 배정하는 '섬유', 즉 특징 벡터장 개념이 등장하고, 기약 표현이라는 기본 구성 요소로 등변 필터 뱅크를 표현한다. 발표자는 이 논문의 일부는 자신도 완전히 소화하지 못했다고 솔직히 밝힌다.

주요 인사이트

• 등변성은 정확도만의 문제가 아니라 효율의 문제다. 회전 대칭을 구조에 넣으면 같은 패턴을 방향별로 따로 학습할 필요가 없어 데이터와 파라미터가 함께 절약된다.
• '커널을 군으로 변환한다'는 발상은 데이터 증강의 위치를 바꾼 것이다. 입력을 여러 각도로 늘리는 대신 작은 필터를 변환하므로 계산이 훨씬 가볍다.
• 이산 군을 그대로 늘리는 방식은 확장성이 없다. 조종 가능 필터는 결과를 저장하는 대신 기저의 조합으로 재구성해 군의 크기와 비용을 떼어놓는다.
• 캡슐 네트워크와 조종 가능 CNN은 계보가 달라 보여도 벡터 단위로 위치·방향을 유지한다는 점에서 닮았다. 발표자는 조종 가능 CNN의 섬유를 캡슐 출력의 묶음으로 볼 수 있다고 설명한다.
• 발표자는 '충분히 말이 되는데도 널리 쓰이지 않는 모델이 이렇게 많다는 데 놀랐다'고 말한다. 등변 구조는 아직 주류 밖에서 활용 여지가 남은 영역이다.

자주 묻는 질문

관련 AI 소식