LLM이란 무엇인가 — 대규모 언어 모델 작동 원리와 한계 쉽게 정리

핵심 메시지

• LLM은 'large language model(대규모 언어 모델)'의 약자로, 휴대폰 자동완성을 수십억 배 키운 것에 비유할 수 있다.
• 핵심 동작은 단 하나다 — 입력을 읽고 '가장 그럴듯한 다음 토큰'을 한 번에 하나씩 예측해 반복적으로 이어 붙인다.
• 이해의 세 기둥은 (1) 인터넷 텍스트로 학습, (2) 토큰 단위 예측, (3) 규모가 클수록 좋지만 일정 지점부터 효용 체감이다.
• 글쓰기·요약·번역·코드 설명·브레인스토밍 등 '자연어 입력→자연어 출력' 작업에 강하다.
• 최신 사실과 정확한 수치에는 약하다 — 학습 시점 이후를 모르고, 그럴듯하지만 틀린 답(환각)을 만들 수 있다.

쉽게 이해하기

LLM은 'large language model', 즉 대규모 언어 모델의 줄임말이다. 영상은 이를 '휴대폰 자동완성을 수십억 배로 키워 에세이까지 쓸 수 있게 된 것'이라고 비유한다. 사용자가 프롬프트를 입력하면 모델은 그것을 읽고 가장 가능성 높은 다음 토큰을 예측해 덧붙이고, 다시 그다음 토큰을 예측하는 과정을 수천 번 반복한다. 그 결과가 마치 대화처럼 느껴지는 답변이 된다.

첫 번째 기둥은 학습 방식이다. 현대의 LLM은 위키피디아 대부분, 레딧 대부분, 공개된 책과 코드, 뉴스 기사 등 수천억 단어로 훈련된다. 다만 이를 통째로 외우는 것이 아니라, 어떤 단어 뒤에 어떤 단어가 오는지, 어떤 개념이 어떤 개념과 연결되는지 같은 '언어의 통계적 패턴'을 학습한다. 이 패턴이 모델이 가진 지식의 전부다.

두 번째 기둥은 토큰 단위 예측이다. 토큰은 대략 단어의 4분의 3 정도 되는 텍스트 조각이다. 모델은 문장을 통째로 쓰는 것이 아니라 '지금까지의 맥락에서 가장 그럴듯한 다음 토큰은 무엇인가'를 묻고 하나를 고른 뒤 다시 반복한다. 거대한 모델에서 이 과정을 초당 수십억 번 수행하기에 지적인 사고처럼 보이는 착시가 생긴다.

세 번째 기둥은 규모다. 'Llama 70B'의 70B처럼 모델 이름의 B는 파라미터(조절 가능한 내부 다이얼) 수를 뜻한다. 파라미터가 많을수록 더 많은 패턴을 담을 수 있다. 영상은 GPT-3가 1,750억 개, GPT-4는 1조 개 이상으로 알려져 있다고 설명하며, 다만 일정 지점을 넘어서면 효용이 체감한다고 덧붙인다. '대규모'라 불리는 이유는 실제로 다운로드에 수십 기가바이트, 훈련에 수십억 달러와 수천 대의 GPU가 수개월간 필요하기 때문이다.

마지막으로 쓰임새다. LLM은 초안 작성, 긴 문서 요약, 번역, 코드 설명, 브레인스토밍, 고객 응대처럼 자연어가 들어가고 나오는 일에 잘 맞는다. 반대로 어제 일어난 일 같은 최신 사실(웹 접속이 없으면 학습 시점까지만 안다)과 정확성이 생명인 숫자·날짜·이름·법률 문구에는 취약하므로 반드시 실제 출처로 검증해야 한다. 우리가 쓰는 ChatGPT(OpenAI)·Claude(Anthropic)·Gemini(Google)·Copilot·Perplexity, 심지어 구글 검색의 AI 개요까지 모두 같은 엔진을 다른 제품으로 감싼 것이다.

주요 인사이트

• '지능'처럼 보이는 능력의 정체는 거대한 모델에서 다음 토큰 예측을 어마어마하게 빠르게 반복하는 데서 오는 착시라는 점을 분명히 한다.
• 모델은 사실을 저장한 것이 아니라 언어의 통계적 패턴을 학습한 것이므로, '맞는 답'이 아니라 '그럴듯하게 들리는 답'을 내놓는다는 한계가 환각의 근본 원인이다.
• 파라미터를 키우면 성능이 오르지만 무한정은 아니며 효용 체감 구간이 존재한다 — 규모만이 답은 아니라는 균형 잡힌 시각을 제시한다.
• 여러 AI 제품이 결국 같은 종류의 엔진을 다르게 포장한 것이라는 설명은, 도구 선택보다 작동 원리 이해가 먼저임을 일깨운다.

자주 묻는 질문

관련 AI 소식