범주론적 딥러닝 해설: 기하 딥러닝의 한계와 가중치 공유, 신경망 설계를 통합할 이론 찾기

핵심 메시지

• 최신 모델은 토큰 하나를 내놓기 위해 수천억 번의 곱셈을 하면서도 작은 수의 곱셈조차 안정적으로 해내지 못한다는 불일치가 출발점이다.
• 도구 호출로 계산을 떠넘기는 방식은 유용하지만, 도구에 넣을 입력을 제대로 만들지 못하면 소용이 없어 아키텍처 자체의 개선이 여전히 필요하다.
• 기하 딥러닝은 대칭성을 신경망에 새겨 넣어 데이터 요구량을 크게 줄였지만, 대칭 변환이 되돌릴 수 있다는 가정 때문에 정보를 버리는 계산은 담지 못한다.
• 연구진은 군에서 가역성 조건을 뺀 모노이드를 거쳐, 임의의 두 계산이 항상 합성되지는 않는다는 조건까지 완화해 범주에 도달했다.
• 이들의 주장은 신경망 층을 같은 함자에 대한 두 대수 사이의 준동형으로 보자는 것이고, 그 특수한 경우로 기하 딥러닝이 복원된다.

쉽게 이해하기

머신러닝 스트리트 토크가 앤드루 두직, 페타르 벨리치코비치, 타코 코언, 브루노 가브라노비치, 폴 레사드를 초대해 '범주론적 딥러닝'을 다뤘다. 시작은 단순한 관찰이다. 언어모델은 덧셈을 제대로 하지 못한다. 8이 여럿 이어진 수에 1이 이어진 수를 더하는 문제는 패턴으로 맞히지만, 8 하나를 7로 바꿔 실제로 자리올림을 따라가야 하는 상황이 되면 무너진다는 것이다.

출연자들은 이것이 시스템을 훈련하는 방식과 그 시스템에 기대하는 쓰임새 사이의 어긋남을 보여준다고 본다. 도구를 붙이면 되지 않느냐는 반론에는, 도구가 아무리 좋아도 올바른 입력을 예측하지 못하면 소용없다는 답이 돌아온다. 게다가 복잡한 추론 중간중간 작은 덧셈이 계속 필요한 상황이라면, 매번 밖으로 나갔다 돌아오는 것보다 모델이 기본적인 계산을 내부에서 처리하는 편이 효율적일 수 있다는 지적도 나온다.

논의의 배경에는 기하 딥러닝이 있다. 입력을 어떤 식으로 바꿔도 무관해야 하는 변환이 있다면 그 성질을 모델 구조에 새겨 넣자는 접근이다. 고양이 사진을 몇 픽셀 옮겨도 고양이이고, 그래프의 노드 순서를 바꿔도 같은 그래프다. 벨리치코비치는 이런 등변성이 필요한 데이터 양을 지수적으로 줄여준다고 설명한다. 트랜스포머도 위치 정보를 토큰에 넣고 나면 본질적으로 순열 등변 모델이다.

문제는 군론의 언어가 알고리즘의 규칙성을 담기에는 좁다는 것이다. 대칭은 되돌릴 수 있다고 가정하지만, 실제 프로그램은 정보를 버린다. 최단 경로 길이만 남기는 알고리즘을 생각하면, 서로 다른 수많은 가중치 그래프가 같은 출력으로 압축되고 원래 그래프 정보는 사라진다. 그래서 연구진은 가역성 조건을 뺀 모노이드로 옮겨갔고, 다시 모든 계산이 서로 합성될 수 있다는 조건까지 풀어 범주에 이르렀다.

범주가 낯설게 들리지만 두직은 그것을 '색이 붙은 대수'에 비유한다. 정사각 행렬은 아무렇게나 이어 붙일 수 있지만, 직사각 행렬은 크기가 맞을 때만 곱할 수 있다. 합성하고 싶지만 항상 합성할 수 있는 것은 아닌 상황, 그것이 범주가 다루려는 대상이다. 코언은 범주론이 정의를 따라가기만 해도 전문가들이 독립적으로 발견해 온 개념들을 자동으로 뱉어낸다는 점을 장점으로 꼽는다.

이 논의에서 가중치 공유가 중요한 사례로 등장한다. 순환 신경망이 매 시점 같은 셀을 쓰는 것처럼 계산의 여러 부분이 같은 파라미터를 쓰도록 강제하는 관행인데, 언제 그것이 타당한지 설명하는 이론은 없었다. 가브라노비치는 매개변수를 갖는 사상들 사이의 재매개화를 2-사상으로 보면, 단순 복사를 넘어 가중치들 사이의 임의의 관계까지 대수적 구조로 표현할 수 있다고 말한다.

핵심 주장은 이렇게 요약된다. 신경망 층을 같은 자기함자에 대한 두 대수 사이의 준동형으로 보자는 것이다. 함자는 신경망이 존중해야 할 계산의 종류를, 대수는 그 계산이 구체적인 데이터를 어떻게 바꾸는지를 나타낸다. 이 준동형이 군 작용일 때 기하 딥러닝이 복원되고, 재귀나 리스트 접기, 오토마타 전이처럼 가역적이지 않은 계산까지 같은 틀에 들어온다.

주요 인사이트

• 출연자들은 지금의 딥러닝을 주기율표 이전의 연금술에 비유한다. 실증적 성과는 크지만 새 구조를 원리에서 이끌어내지 못하고 우연히 발견하는 데 그친다는 문제의식이다.
• 벨리치코비치는 큰 과학적 성과가 대부분 언어모델과 알고리즘의 결합에서 나왔다고 지적한다. 유전 알고리즘이나 정리 증명기처럼 정확성이 보장된 절차를 붙였기 때문에 결과가 신뢰할 만해졌다는 것이다.
• 그가 바라는 것은 완벽한 정확도가 아니라 자기 인식이다. 사람도 50자리 곱셈에서는 틀리지만, 지금의 모델은 문제가 자기 능력을 넘어선다는 사실을 알리고 답을 미루는 대신 언제나 답을 내놓도록 훈련돼 있다는 지적이다.
• 자리올림이라는 초등학교 수준의 개념이 그래프 신경망에서는 어렵다는 관찰이 흥미롭다. 상태를 통째로 보내는 방식으로는 9에서 0으로 바뀐 것이 1을 더해서인지 11을 더해서인지 구분되지 않기 때문이다.
• 두직은 이 문제를 연속적인 수학에서 구현하려면 3차원 다양체 수준의 미묘함이 필요하다고 보고, 호프 올다발 같은 구조를 이용해 신경망 안에 실제 연산 장치를 만드는 방향을 기대하고 있다.
• 합성의 층위를 올릴수록 창발적 성질이 나타난다는 관찰도 나온다. 두 시스템을 따로 보고 합친 결과와 합성한 뒤 관찰한 결과가 같지 않은 경우가 많아, 그 차이를 추적하려면 더 높은 층위의 구조가 필요해진다.

자주 묻는 질문

관련 AI 소식