등변 신경망 입문 정리 — 등변성과 불변성의 차이, 대칭성 군론 기초, 알파폴드2 활용까지

핵심 메시지

• 등변성은 입력이 변한 만큼 출력도 같은 방식으로 변하는 성질이고, 불변성은 입력이 어떻게 변해도 출력이 그대로인 성질이다. 신경망에서 불변성은 주로 마지막 풀링 연산에서 나온다.
• CNN은 이동에 대해 등변이지만 회전에 대해서는 그렇지 않다. 필터가 픽셀 공간에서 옮겨 다닐 뿐 회전각은 고정돼 있기 때문이다.
• 대칭성을 구조에 심는 것은 귀납 편향이다. 데이터가 그 가정을 따를 때는 적은 데이터로 더 잘 일반화하지만, 가정이 틀리면 구분해야 할 것을 구분하지 못하게 된다.
• 데이터 증강은 입력층에서만 작동하는 반면, 등변 구조는 모든 층에 대칭성을 심을 수 있다. 인용된 연구에 따르면 등변 모델의 이점은 증강으로 따라잡기 어렵다.
• 알파폴드2의 성능 향상에 기여한 요소 중 하나가 SE(3) 등변 트랜스포머이며, 의료 영상·단백질 결합·DNA 분석에서도 대칭성을 활용한 모델이 성과를 내고 있다.

쉽게 이해하기

이미지 어디에 개가 있든 모델이 알아봐야 한다는 요구는 당연해 보이지만, 이를 정확히 표현하려면 두 개념을 구분해야 한다. 입력의 패턴이 옮겨질 때 특징 맵도 같은 만큼 옮겨지면 등변, 개가 어디 있든 '개가 있다'는 판정이 똑같이 나오면 불변이다. 신경망에서 불변성은 대개 맥스 풀링처럼 여러 활성값을 하나로 모으는 연산에서 생기는데, 최댓값이 어느 뉴런에서 나왔는지는 상관없고 존재 여부만 남기 때문이다.

중요한 것은 등변성과 불변성이 언제나 '어떤 변환에 대해서'인지와 함께 정의된다는 점이다. 완전연결 신경망은 입력 순서에 민감해 이런 성질이 없지만, 합성곱 신경망은 이동에 대한 등변성을 이미 갖고 있다. 합성곱이란 결국 필터를 옮겨 가며 입력과 내적을 취하는 연산이기 때문이다. 반면 학습된 필터는 회전각이 고정돼 있어서, 훈련 데이터에 없던 각도로 돌아간 물체에는 반응하지 못한다.

대칭성은 거울 반사만이 아니다. 이동, 회전, 순열처럼 대상의 성질을 바꾸지 않는 변환은 모두 대칭 변환이다. 이런 대칭성을 모델 구조에 넣는 것은 귀납 편향을 주는 일이라 데이터 효율과 일반화에 도움이 되지만, 대가로 유연성을 잃는다. 발표자는 입체화학의 카이랄성을 예로 든다. 분자의 성질은 대개 회전과 이동에 불변이지만 거울상 이성질체는 반사에서 성질이 달라지므로, 반사 대칭성을 가정에 넣으면 이들을 영영 구분할 수 없게 된다.

그렇다면 데이터 증강으로 회전 이미지를 잔뜩 학습시키면 되지 않을까. 발표자는 세 가지 한계를 든다. 인용된 논문은 등변 모델이 지닌 본질적 이점을 증강으로 극복할 수 없다고 결론짓고, 증강은 효율이 떨어지며 모든 대칭 클래스에 적용되지도 않는다. 결정적으로 증강은 입력층에서만 가능하지만 등변 구조는 모든 층에 대칭성을 심을 수 있다.

이 시리즈가 다룰 확장의 수학적 토대는 군론이다. 군은 원소들의 집합과 그 위의 이항 연산으로 정의되며, 닫힘·결합법칙·항등원·역원이라는 네 조건을 만족해야 한다. 45도·180도·300도·0도 회전만 모아 놓은 집합은 45도를 두 번 적용하면 집합 밖의 90도가 나오므로 닫힘을 어겨 군이 아니다. 이런 확인에는 모든 원소 쌍의 곱을 표로 정리한 케일리 표가 쓰인다. 2차원 이동은 T, 90도 회전과 이동을 합치면 p4, 3차원 회전은 SO(3), 여기에 이동을 더하면 SE(3)라고 부른다.

주요 인사이트

• 합성곱 신경망의 강점을 '이동 불변성'이라고 뭉뚱그려 부르는 관행은 정확하지 않다. 층 내부에서 일어나는 것은 등변이고, 불변은 마지막 풀링에서 만들어진다.
• 대칭성 가정은 공짜가 아니다. 유연성을 담보로 데이터 효율을 사는 거래이므로, 내 데이터가 그 대칭성을 실제로 따르는지 먼저 확인해야 한다.
• 군론이 갑자기 등장하는 이유는 등변성이 언제나 특정 변환 군을 기준으로 정의되기 때문이다. 회전을 45도씩이 아니라 90도씩 다루는 이유도 군 조건을 만족시키기 위해서다.
• 성과는 이미 실전에서 나오고 있다. 폐 CT 암 검출에 적용된 군 합성곱 신경망은 정확도뿐 아니라 데이터 효율에서도 앞섰고, 그래프 신경망은 태생적으로 순열 등변이라 3차원 회전까지 확장할 수 있다.
• 발표자는 자신이 이 분야의 전문가가 아니라 몇 주간 공부한 내용을 정리한 것이라고 먼저 밝힌다. 이런 태도는 입문 자료를 고를 때 신뢰도를 판단하는 좋은 신호다.

자주 묻는 질문

관련 AI 소식