LLM(거대언어모델)이란? 다음 토큰 예측 원리와 3단계 학습, 다섯 가지 한계까지 쉽게 정리

핵심 메시지

• 우리가 쓰는 대부분의 AI 도구는 같은 기반 기술인 거대언어모델(LLM) 위에서 작동한다.
• LLM의 핵심 작동 원리는 주어진 입력 다음에 올 단어의 확률을 계산하는 ‘다음 토큰 예측’이다.
• LLM은 사전학습, 지시 조정, 인간 피드백 강화학습(RLHF)의 3단계로 만들어진다.
• 환각, 지식 컷오프, 제한된 문맥 창, 확률적 출력, 학습 데이터 편향이라는 다섯 가지 한계가 있다.
• LLM은 엔진이고 챗봇은 그 위에 만든 완성차에 비유할 수 있으며, LLM은 이해하는 존재가 아니라 도구다.

쉽게 이해하기

2026년 우리가 매일 쓰는 ChatGPT, 클로드, 제미나이, 코파일럿 같은 도구는 모두 ‘거대언어모델(LLM)’이라는 같은 기반 기술로 움직인다. LLM은 방대한 텍스트로 학습된 AI 시스템으로, 어떤 입력이 주어졌을 때 그 뒤에 자연스럽게 이어질 단어와 개념을 예측하도록 배우면서 폭넓은 언어 능력을 갖추게 된다.

핵심 작동 원리는 ‘다음 토큰 예측(next token prediction)’이다. 텍스트가 주어지면 LLM은 다음에 올 수 있는 모든 단어의 확률을 계산해 응답을 생성한다. 즉, 문장의 의미를 사람처럼 ‘이해’하는 것이 아니라 학습한 패턴을 바탕으로 가장 그럴듯한 다음 단어를 이어 붙이는 방식이다.

LLM은 세 단계로 만들어진다. 1단계 사전학습에서는 책, 웹사이트, 코드에서 나온 수천억 개의 토큰을 처리한다. 2단계 지시 조정(instruction tuning)에서는 단순히 통계적으로 텍스트를 이어가는 대신 지시를 따르고 도움이 되게 답하도록 가르친다. 3단계 RLHF(인간 피드백 강화학습)에서는 사람 평가자가 두 응답을 비교해 어느 쪽이 더 안전하고 정확한지 표시하며 모델을 다듬는다.

동시에 다섯 가지 중요한 한계가 있다. 첫째 환각으로, 자신 있고 유창하지만 사실과 다른 정보를 만들어낸다. 둘째 지식 컷오프로, 학습 데이터에 있던 내용만 알고 그 이후 사건은 실시간 웹 접근 없이는 알지 못한다. 셋째 문맥 창 제한으로, 한 번에 처리할 수 있는 텍스트 양이 정해져 있어 긴 대화의 앞부분이 사실상 사라질 수 있다. 넷째 확률적 출력으로, 같은 질문에도 매번 다른 답이 나올 수 있다. 다섯째 학습 데이터 편향으로, 사람이 만든 텍스트의 편향을 그대로 반영한다.

영상은 LLM과 챗봇을 구분한다. LLM은 엔진이고 챗봇은 그 엔진 위에 만든 완성차라는 것이다. 기업은 API 접근, 특정 도메인을 위한 파인튜닝, 그리고 사내 지식베이스에서 검증된 정보를 가져오는 RAG 방식으로 LLM을 활용한다. 마지막으로 LLM은 사람처럼 이해하거나 아는 것이 아니라 학습한 패턴을 바탕으로 텍스트를 만들어내는 도구라는 점을 강조한다.

주요 인사이트

• ‘이해’가 아니라 ‘다음 단어 확률 예측’이라는 원리를 알면 LLM이 왜 자신 있게 틀린 답을 내놓는지 이해할 수 있다.
• 사전학습–지시 조정–RLHF의 3단계 구분은 모델이 ‘아는 것’과 ‘사람에게 도움이 되게 답하는 것’이 다른 단계에서 만들어짐을 보여준다.
• 환각·지식 컷오프·문맥 창 한계는 RAG나 실시간 웹 접근 같은 보완 장치가 왜 필요한지 설명해 준다.
• ‘LLM=엔진, 챗봇=완성차’ 비유는 우리가 쓰는 챗봇 서비스와 그 밑의 모델을 구분해서 바라보게 한다.

자주 묻는 질문

관련 AI 소식