트랜스포머 신경망 원리: CNN의 한계에서 셀프 어텐션까지 단계별 유도

핵심 메시지

• CNN은 이미지에선 뛰어나지만, 문장 양끝 단어처럼 멀리 떨어진 강한 관계를 초기 층에서 잡지 못해 자연어 처리에서는 약했다.
• 트랜스포머의 핵심 아이디어는 단순하다. 합성곱을 ‘모든 단어 쌍(pair)’에 적용하는 쌍 합성곱으로 바꾸면 거리에 상관없이 관련 단어를 한 층에서 결합할 수 있다.
• 쌍을 만들면 단어 순서 정보가 사라지므로, 각 단어 벡터에 위치(one-hot) 정보를 붙여 순서를 보존한다.
• 쌍은 층마다 벡터 수를 제곱으로 늘리므로, 각 열을 하나로 줄이되 ‘중요도 점수’로 가중합해 가장 관련 깊은 쌍의 정보만 남긴다. 이것이 셀프 어텐션이다.
• 표현망을 선형함수로 바꾸고 어텐션 뒤에 신경망을 적용하며, 어텐션을 여러 번 수행해 이어붙이는 멀티헤드 최적화로 실용적인 트랜스포머가 완성된다.

쉽게 이해하기

ChatGPT는 이름 그대로 GPT(Generative Pre-trained Transformer)이며, 그 능력의 비밀은 트랜스포머 신경망 구조다. 유튜브에는 트랜스포머 구조를 ‘설명’하는 영상이 많지만, 이 영상은 단순한 합성곱 신경망(CNN)에서 출발해 설계 동기를 하나씩 따라가며 트랜스포머를 직접 유도한다. 목표는 시청자가 ‘나도 트랜스포머를 발명할 수 있었겠다’고 느끼게 하는 것이다.

2017년 트랜스포머가 등장하기 전, 이미지에서 큰 성공을 거둔 CNN을 자연어에 적용하려는 시도가 있었지만 성능이 크게 떨어졌다. 텍스트는 one-hot 인코딩으로 숫자화한다. CNN은 인접한 세 단어씩 묶어 층을 쌓으며 점점 넓은 범위를 합치지만, 입력들이 서로 강하게 연관돼야만 잘 합친다. ‘개가 빠르게 돌아 자기 꼬리를 물었다’에서 ‘개’와 ‘꼬리’처럼 멀리 떨어진 강한 관계를 초기 층에서 잡지 못해 혼란에 빠진다.

해법은 인접 단어 대신 문장의 모든 단어 쌍에 신경망을 적용하는 ‘쌍 합성곱’이다. 이러면 두 단어가 얼마나 떨어져 있든 관련 쌍의 정보를 한 층에서 곧바로 결합할 수 있다. 다만 쌍의 집합만 보면 순서를 무시하게 되어 ‘the fat cat’과 ‘the cat fat’을 구분하지 못하는데, 각 단어에 위치를 나타내는 one-hot 벡터를 덧붙여 이 문제를 해결한다.

쌍을 만들면 벡터 수가 층마다 제곱으로 폭증한다. 각 열을 합쳐 n개로 줄여야 하는데, 단순 합은 여러 이미지를 평균 내면 흐릿해지듯 정보를 뭉갠다. 그래서 중요한 쌍은 큰 벡터로, 나머지는 0에 가깝게 만들어야 한다. 같은 쌍이라도 문맥에 따라 중요도가 달라지므로(‘불’이 으르렁대는지 ‘사자’가 으르렁대는지) 별도 신경망이 각 쌍의 중요도 점수를 내고, 지수함수로 양수화·정규화한 상대 중요도로 가중합한다. 이 전체 연산이 바로 셀프 어텐션이다.

마지막으로 실용화를 위한 최적화가 더해진다. 무거운 표현 신경망을 선형함수로 대체해 연산을 줄이고, 잃어버린 비선형성은 어텐션 이후 신경망을 적용해 회복한다. 점수 함수는 작은 신경망이나 쌍선형형으로 충분하다. 또 한 번의 가중합이 한 쌍만 살리는 한계를 극복하려 어텐션을 여러 번 수행해 이어붙이는데, 이것이 멀티헤드 셀프 어텐션이다. 표준 구현은 층 정규화·잔차 연결·BPE 같은 기법을 더하지만, 이들은 트랜스포머 고유 요소가 아니다.

주요 인사이트

• 트랜스포머의 어텐션은 신비로운 장치가 아니라 ‘CNN이 장거리 관계를 못 잡는다’는 구체적 문제를 풀기 위한 단계적 설계의 귀결이다.
• 위치 인코딩은 단어 쌍 집합이 순서 정보를 잃는 순열 평균 구조를 보완하는 필수 장치다.
• n²으로 폭증하는 쌍 벡터를 ‘중요도 가중합’으로 n개로 압축하는 것이 어텐션의 계산적 핵심이며, 소수의 관련 쌍만 살리는 것이 관건이다.
• 멀티헤드는 한 번의 가중합이 하나의 쌍만 남기는 한계를 여러 헤드로 병렬화해 극복한다.

자주 묻는 질문

관련 AI 소식