트랜스포머 논문 쉬운 설명: 셀프 어텐션이 순환 신경망의 순차 처리 한계를 깬 방법

핵심 메시지

• 2017년 논문 '어텐션 이즈 올 유 니드'는 지금의 대규모 언어 모델 대부분이 물려받은 설계도가 됐다.
• 이전 주류였던 순환 신경망은 단어를 하나씩 순서대로 읽어야 해서 병렬 처리가 불가능했고 긴 문단의 앞부분을 잊어버렸다.
• 셀프 어텐션은 문장의 모든 단어를 동시에 보게 해, 아무리 멀리 떨어진 단어끼리도 직접 연결한다.
• 멀티 헤드 어텐션은 같은 문장을 여러 관점에서 동시에 읽게 하는 장치로, 논문은 여덟 개의 헤드를 병렬로 썼다.
• 트랜스포머는 기계 번역 성능에서 기존 모델을 큰 격차로 앞서면서도 학습 비용은 오히려 적게 들었다.

쉽게 이해하기

해설은 대화형 AI가 어떻게 사람의 말을 알아듣는 것처럼 보이는지에서 출발한다. 답은 모델이 글을 읽는 방식이 근본적으로 바뀐 데 있고, 그 전환의 출발점이 2017년 논문 '어텐션 이즈 올 유 니드'라는 것이다. 왜 이것이 돌파구였는지 이해하려면 그 이전의 방식을 먼저 알아야 한다.

2017년 이전의 대표 모델은 순환 신경망이었다. 발표자는 이를 긴 두루마리를 읽는 일에 비유한다. 첫 단어를 읽어 약간의 맥락을 얻고, 둘째 단어를 읽어 거기에 더하는 식으로 이해가 사슬처럼 이어진다. 문제는 두 가지였다. 100번째 단어는 앞의 99개를 처리하기 전에는 다룰 수 없으니 강력한 병렬 연산 장비를 쓸 수 없어 몹시 느렸고, 긴 문단의 끝에 이를 무렵이면 앞부분의 중요한 내용을 사실상 잊어버렸다.

논문이 제시한 전환점이 셀프 어텐션이다. 순차 처리를 아예 버리고 모델이 문장의 모든 단어를 동시에 보게 한 뒤, 어떤 단어가 어떤 단어에 중요한지를 스스로 판단하게 하자는 발상이다. 발표자는 '개가 너무 지쳐서 길을 건너지 않았다'는 문장에서 '그것'이 길이 아니라 개를 가리킨다는 사실을 모델이 알아내는 힘이 여기서 나온다고 설명한다. 논문의 도표를 인용해, 순환 방식에서는 필요한 연산 단계 수가 단어 수에 따라 늘어나지만 셀프 어텐션에서는 문장이 열 단어든 천 단어든 상수 단계로 처리된다는 점을 짚는다.

이 발상 위에 세운 구조가 트랜스포머다. 왼쪽의 인코더가 입력을 읽고 이해하며, 오른쪽의 디코더가 그 이해를 받아 번역 같은 새로운 결과를 만든다. 두 부분 모두 똑같은 층을 여러 겹 쌓은 형태이고, 각 층 안에서 셀프 어텐션이 데이터를 순차가 아니라 병렬로 살핀다. 여기에 더해진 것이 멀티 헤드 어텐션이다. 한 사람만 문장을 읽으면 문법은 봐도 깊은 뜻을 놓칠 수 있으니, 전문가 여러 명이 동시에 같은 문장을 읽게 하는 셈이다. 논문은 여덟 개의 헤드를 병렬로 돌렸다.

결과는 기계 번역이라는 까다로운 과제에서 확인됐다. 서로 비슷한 성능으로 몰려 있던 기존 모델들과 달리 트랜스포머는 큰 격차로 새 기록을 세웠고, 발표자는 이 분야에서 2점이 넘는 상승은 대단히 큰 도약이라고 덧붙인다. 게다가 모든 것을 병렬로 처리할 수 있었던 덕에 이전 모델보다 훨씬 적은 연산 자원으로 이 성적을 냈다. 더 좋고 더 빠르고 더 싼 세 가지가 한꺼번에 성립할 때 새 기술이 아니라 혁명이 일어난다는 것이 이 해설의 결론이다.

주요 인사이트

• 병목을 정확히 지목한 것이 이 논문의 힘이다. 성능을 조금씩 올리는 대신 순차 처리라는 전제 자체를 걷어냈고, 그래서 개선이 아니라 판이 바뀌었다.
• 연산 단계 수가 문장 길이에 비례하느냐 상수냐의 차이는 이론적 우아함이 아니라 곧바로 학습 속도와 비용의 차이로 나타났다.
• 멀티 헤드는 모델을 키우는 대신 관점을 늘린 설계다. 문법과 주제와 대명사 추적을 각각 다른 헤드가 맡는 식으로, 같은 문장에서 여러 층위의 의미를 동시에 건진다.
• 발표자는 논문 저자들의 결론 문장이 컴퓨터 과학 역사에서 손꼽히는 절제된 표현이 됐다고 평한다. 당사자들도 파급력의 전모까지는 예측하지 못했다는 뜻이다.

자주 묻는 질문

관련 AI 소식