프롬프트 엔지니어링 입문 총정리: 토큰·환각·프롬프트 구성 요소와 제로/원/퓨샷 기법

핵심 메시지

• 생성형 AI를 다루는 능력, 즉 AI와 대화하는 법은 이제 선택이 아니라 하나의 경쟁력이다.
• 언어 모델은 텍스트를 토큰으로 바꿔 처리하며, 대부분의 API가 토큰 사용량을 기준으로 비용을 매긴다.
• 좋은 프롬프트는 입력, 맥락, 지시, 과제라는 네 요소로 구성된다.
• 모델은 모르는 것도 그럴듯하게 지어내는 환각을 일으키므로, 결과의 정확성은 사람이 판단해야 한다.

쉽게 이해하기

강의는 생성형 AI가 리더와 나머지를 가르는 핵심 기술이 됐다며, 챗GPT로 단순한 이메일만 쓰고 있다면 빙산의 일각만 본 것이라고 말한다. 학생이든 직장인이든 AI와 대화하는 법을 이해하는 것은 더 이상 선택이 아니라 하나의 초능력이라는 것이다.

이어 AI의 흐름을 짚는다. 1950년대 튜링 테스트에서 출발해, GPT 계열 모델의 규모를 파라미터 수로 설명한다. 파라미터는 학습된 가중치를 뜻하며, GPT-2의 약 15억 개에서 GPT-3의 1750억 개로 늘며 모델 크기와 학습 데이터 양도 함께 커졌다고 정리한다.

토큰과 비용도 다룬다. 입력 텍스트의 각 단어는 하나 이상의 토큰으로 변환되고, 많은 API가 일정 토큰까지는 무료로 제공하다가 초과분에 요금을 매긴다. 토크나이제이션은 단어를 토큰 ID로 바꿔 모델에 넣고, 출력 토큰을 다시 텍스트로 디코딩하는 전 과정을 이룬다.

프롬프트 작성의 핵심으로는 입력, 맥락, 지시, 과제라는 네 가지 구성 요소를 제시한다. 개발자의 관점에서 질의 언어처럼 접근하면 비용도 줄이고 더 적합한 결과를 얻을 수 있다고 설명한다. 또한 모델이 모르는 답도 무언가를 만들어내는 환각을 소개하며, 생성된 답이 맥락상·사실상 옳은지는 사람이 판단해야 한다고 강조한다.

마지막으로 활용 사례와 기법을 다룬다. 이력서와 링크드인 프로필 작성, 이메일 분류와 감성 분석, 블로그·게시물 작성 같은 일상 업무부터 텍스트·이미지·음악을 아우르는 멀티모달 능력, 챗GPT 플러그인(예: 캔바) 연동까지 보여준다. 프롬프트 기법으로는 제로샷·원샷·퓨샷과 생각의 사슬(chain of thought), 생각의 나무(tree of thought)를 소개하며 결과가 최적이 아닐 때 프롬프트를 조정하는 법을 안내한다.

주요 인사이트

• 챗GPT를 단순 문서 작성에만 쓴다면 그 잠재력의 극히 일부만 활용하는 것이다.
• 모델 규모를 좌우하는 파라미터는 곧 학습된 가중치이며, 수가 많을수록 모델 크기와 학습 데이터도 커진다.
• API 비용이 토큰 단위로 매겨지므로, 토큰을 아끼는 프롬프트 설계는 곧 비용 절감으로 이어진다.
• 입력·맥락·지시·과제의 네 요소로 프롬프트를 나눠 생각하면 더 적합한 결과를 얻기 쉽다.
• 생성 모델은 모르는 것도 답을 만들어내므로, 환각을 전제로 결과를 검증하는 습관이 필요하다.

자주 묻는 질문

관련 AI 소식