파이썬으로 대규모 언어 모델(LLM) 처음부터 직접 구현하기

핵심 메시지

• 이 강좌는 데이터 처리, 수학, 트랜스포머까지 대규모 언어 모델의 작동 원리를 밑바닥부터 다룬다.
• 미적분·선형대수 사전 지식을 요구하지 않으며, 약 3개월 정도의 파이썬 경험이면 따라올 수 있다.
• 유료 데이터셋이나 클라우드 없이 전부 로컬에서 연산하며, 약 45GB 규모의 학습 데이터를 다룬다.
• 트랜스포머의 핵심인 어텐션, 잔차 연결(residual connection), 레이어 정규화 같은 구성 요소를 코드로 직접 구현한다.
• 안드레이 카파시의 'GPT 밑바닥부터 만들기' 강의에서 영감을 받아, 작은 단계부터 차근차근 쌓아 올린다.

쉽게 이해하기

freeCodeCamp의 이 강좌는 엘리엇 알레지(Elliot Arledge)가 만든 것으로, 대규모 언어 모델을 처음부터 직접 만들며 데이터 처리와 수학, 트랜스포머 구조를 익히도록 설계됐다. 강사는 미적분이나 선형대수를 전제하지 않고 square one부터 시작한다고 강조한다. 약 3개월 정도의 파이썬 경험만 있으면 문법이 익숙해 따라올 수 있으며, 무엇보다 꾸준히 시간을 들이는 태도가 가장 중요하다고 말한다.

환경 설정은 전부 로컬 연산으로 이뤄진다. 유료 데이터셋이나 클라우드 컴퓨팅 없이, 약 45GB 규모의 학습 데이터를 내려받아 다루기 쉬운 형태로 변환한다(작업 공간으로 약 90GB를 확보). 주피터 노트북과 아나콘다를 사용하고, 라이브러리 충돌을 막기 위해 가상환경을 만든다. GPU 가속을 위해 CUDA를 쓰고, 맥에서 SSH로 윈도우 PC에 접속해 작업하는 방식도 소개한다.

본격적인 구현에 앞서 파이토치(PyTorch)의 텐서 기초를 다진다. 예를 들어 정수형(int64)과 부동소수점형(float32)은 데이터 타입이 달라 곧바로 곱할 수 없고, float로 캐스팅해야 한다. 가중치 계산은 값이 매우 정밀해져야 하므로 부동소수점을 쓴다. 이런 세부가 모델 구현 중 흔히 마주치는 오류의 원인이 된다.

트랜스포머 내부도 하나씩 뜯어본다. 피드포워드 네트워크는 선형 → ReLU → 선형으로 이어지는 구조이며, 잔차 연결은 입력을 그대로 우회시켜 출력에 더해 준다. 깊은 신경망에서 초기 정보가 잊히는 문제를 막아주는 장치다. 이후 레이어 정규화를 적용하는데, 더하고 정규화하는 post-norm과 정규화하고 더하는 pre-norm이라는 두 가지 배치 방식이 있다. 원조 논문 'Attention Is All You Need'는 post-norm을 썼고, 강사의 실험에서는 작은 모델을 학습시킬 때 원래 방식이 더 좋았다고 한다.

멀티헤드 어텐션의 스케일링도 직관적으로 설명한다. 쿼리와 키의 내적을 헤드 크기의 제곱근으로 나눠 주는데, 이는 여러 사람이 동시에 말하는 방에서 특정 목소리가 너무 커져 다른 소리를 묻어 버리지 않도록 음량을 고르게 맞추는 것과 같다. 강좌 후반에는 허깅페이스의 모델과 데이터셋(예: 420만 행이 넘는 OpenOrca)을 활용하는 법, 사전학습용 데이터로 오픈웹텍스트·커먼크롤·위키피디아 등을 쓰는 법을 안내하고, 실습에는 'The Wizard of Oz' 텍스트를 예제로 사용한다.

주요 인사이트

• 선행 수학 지식 없이도 논리와 비유, 단계별 예제로 트랜스포머의 핵심 개념을 충분히 이해할 수 있다.
• 가상환경으로 의존성을 격리하고 CUDA로 GPU 가속을 쓰는 등, 실제 개발 환경 구성 자체가 학습의 중요한 일부다.
• 잔차 연결은 깊은 신경망이 초반 정보를 잊는 문제를 우회하는 장치로, 트랜스포머가 깊어져도 정보를 유지하게 해준다.
• 어텐션의 제곱근 스케일링은 특정 값이 지나치게 커져 다른 신호를 압도하지 않도록 균형을 맞추는 역할을 한다.
• 밑바닥부터 직접 구현해 보면 나중에 연구 논문을 읽고 새 아키텍처의 무엇이 새로운지 이해하는 힘이 길러진다.

자주 묻는 질문

관련 AI 소식