생성형 AI 작동 원리 완벽 정리: 도구와 모델, 토큰·트랜스포머, 프롬프트와 환각까지 입문 가이드

핵심 메시지

• 전통적 AI는 데이터를 분석해 예측·분류하지만, 생성형 AI는 지시에 따라 글·이미지·음성·영상·코드 같은 새로운 결과물을 만들어낸다.
• 우리가 여는 '도구'(ChatGPT 같은 앱)와 실제 작업을 수행하는 '모델'(GPT 등)은 다른 것이며, 작업에 맞는 모델을 고르는 안목이 중요하다.
• LLM은 프롬프트를 토큰으로 쪼개 트랜스포머의 어텐션으로 단어 간 관계를 파악하고 다음 토큰을 한 조각씩 예측하며 답을 완성한다.
• 프롬프트의 명확함과 컨텍스트 윈도우 안의 '관련 있는' 정보가 결과 품질을 좌우하며, 정보가 많다고 늘 좋은 답이 나오는 것은 아니다.
• AI는 자신감 있게 틀릴 수 있으므로(환각), 중요한 사실·출처·코드는 사람이 반드시 검증하고 최종 판단은 사람이 쥐어야 한다.

쉽게 이해하기

이 영상은 우리가 매일 쓰면서도 잘 모르는 생성형 AI의 내부 작동을 초보자 눈높이로 설명한다. 먼저 AI의 역사적 맥락을 짚는다. 생성형 AI가 유행하기 전에도 AI는 오래 존재했고, 스팸 탐지·영화 추천·얼굴 인식·교통 예측처럼 기존 데이터를 분석해 예측하고 결정하는 일을 해왔다. 이를 예측형(전통적) AI라 부른다. 생성형 AI는 여기서 한 걸음 더 나아가, 지시를 받아 글·이미지·오디오·비디오·소프트웨어 같은 새로운 것을 '창작'한다.

핵심 구분으로 영상은 '도구'와 '모델'을 분리한다. 도구는 우리가 상호작용하는 앱이나 웹사이트로, 채팅창·버튼·파일 업로드·음성 모드 같은 인터페이스를 제공한다. 모델은 그 뒤에서 실제로 일하는 학습된 AI 시스템이다. 예를 들어 ChatGPT는 도구이고 GPT는 그 안에서 작동하는 모델 계열이다. 하나의 도구가 여러 모델을 제공할 수 있고, 빠른 답·추론·작문·코딩·이미지 등 모델마다 잘하는 일이 다르다. 그래서 제품 이름만 볼 게 아니라 어떤 모델을 쓰는지, 그 모델이 무엇을 위해 설계됐는지 이해해야 한다.

생성형 AI 모델은 데이터에서 패턴과 관계를 학습한 시스템이다. 한 예시를 그대로 베끼는 것이 아니라, 텍스트 모델은 단어와 개념의 연결을, 이미지 모델은 설명과 형태·색·스타일의 관계를 배운다. 사용자가 주는 지시(입력=프롬프트)를 받아 학습한 패턴으로 적절한 결과(출력)를 만든다. 모델은 용도별로 나뉘므로 작업이 모델을 결정해야지 인기가 결정해선 안 된다. 텍스트 모델이 훌륭한 이미지 설명을 써도, 그것을 그림으로 바꾸려면 이미지 모델이 필요하다.

가장 널리 쓰이는 생성형 모델인 LLM(대형 언어 모델)의 작동 과정도 단계별로 풀어낸다. 프롬프트를 입력하면 모델은 이를 토큰(단어, 단어 일부, 기호)으로 쪼개고, 트랜스포머 구조 안의 어텐션으로 어떤 단어와 세부가 중요한지 파악한다. 예컨대 'bank'는 'money'가 가까이 있으면 은행을, 'river'가 가까이 있으면 강둑을 뜻한다. 이렇게 관계를 활용해 다음 토큰을 예측하고 이를 반복하며 답을 한 조각씩 완성한다. 모델은 최신 문장만이 아니라 이전 대화·예시·업로드 문서 등 '컨텍스트 윈도우' 안의 정보를 함께 참고한다.

마지막으로 영상은 활용과 한계를 균형 있게 다룬다. 학생·교사·창작자·전문가·개발자·구직자 각자의 워크플로에서 AI는 반복 작업을 줄이고 출발점을 제공하며 생각을 정리하도록 돕는다. 다만 'AI가 무엇을 할 수 있나'가 아니라 '내가 끝내려는 작업이 무엇이고 어디서 AI가 도울 수 있나'로 질문을 시작하라고 권한다. 또 AI는 자신감 있게 틀린 사실·낡은 정보·가짜 출처를 내놓을 수 있는데(환각), 이는 거짓말이 아니라 패턴 기반 생성의 본질이다. 건강·법률·금융·안전 같은 중대한 결정은 전문가에게 확인하고, AI는 어디까지나 보조로 쓰며 최종 판단은 사람이 내려야 한다.

주요 인사이트

• 도구와 모델을 분리해 이해하면 'ChatGPT가 똑똑하다'가 아니라 '어떤 모델이 이 작업에 적합한가'라는 실용적 질문으로 사고가 바뀐다.
• 생성형 AI의 본질은 입력(프롬프트)→출력이라는 단순 과정이며, 모델은 답을 통째로 떠올리는 게 아니라 다음 토큰을 한 조각씩 예측해 쌓아 올린다.
• 어텐션은 같은 단어라도 주변 맥락(money냐 river냐)에 따라 의미를 다르게 해석하게 해주는 장치로, LLM 이해의 핵심이다.
• 컨텍스트는 많을수록 좋은 게 아니라 '관련성'이 핵심이다. '60초짜리 초보용 LLM 설명 스크립트를 직장 예시로'처럼 주제·대상·길이·형식을 명시한 프롬프트가 더 나은 결과를 낳는다.
• 가장 성공적인 AI 사용자는 콘텐츠를 가장 많이 생성하는 사람이 아니라, 어떤 작업을 맡길지·어떤 모델을 고를지·언제 사람의 판단을 적용할지 아는 사람이다.

자주 묻는 질문

관련 AI 소식