프롬프트 엔지니어링 입문: 개념·언어 모델 역사·임베딩 기초 정리

핵심 메시지

• 프롬프트 엔지니어링은 인간과 AI의 상호작용을 다듬는 직업으로, 프롬프트를 작성·최적화·관리하는 일을 포함한다.
• 여기서 AI는 대개 머신러닝을 뜻하며, 대량의 데이터에서 패턴을 학습해 결과를 예측한다.
• 언어 모델은 1960년대 ELIZA부터 GPT-4까지 발전해 왔고, 그 작동 원리를 알면 더 나은 프롬프트를 쓸 수 있다.
• 명확한 지시·페르소나 부여·형식 지정이 좋은 프롬프트의 핵심이며, 제로샷·퓨샷으로 예시를 줄 수 있다.
• AI는 데이터를 잘못 해석해 '환각'을 일으킬 수 있고, 텍스트 임베딩은 단어의 의미를 벡터로 표현한다.

쉽게 이해하기

프롬프트 엔지니어링은 AI의 부상과 함께 생겨난 직업으로, 인간이 프롬프트를 구조적으로 작성·정제·최적화해 인간과 AI의 상호작용을 가능한 한 완벽하게 다듬는 일이다. 프롬프트의 효과를 지속적으로 모니터링하고 프롬프트 라이브러리를 최신으로 유지하는 역할까지 포함하며, 블룸버그에 따르면 연봉이 최대 33만 5천 달러에 이르기도 한다.

본격적인 내용에 앞서 AI의 정의를 짚는다. 인공지능은 기계가 인간 지능을 시뮬레이션하는 것으로, 아직 스스로 사고하는 지각적 존재는 아니다. ChatGPT 같은 도구에서 말하는 AI는 사실 머신러닝을 가리키며, 대량의 학습 데이터에서 상관관계와 패턴을 찾아 결과를 예측한다. 영어를 배우는 학생에게 '문단을 고쳐줘'라고만 하는 것과, '영어 교사 역할을 맡아 100단어로 답하고 문법을 교정하며 질문도 하라'고 하는 것은 학습 경험이 전혀 다르다.

언어학은 프롬프트 엔지니어링의 열쇠다. 언어가 맥락에 따라 어떻게 쓰이는지 이해하고 표준 문법·구조를 사용하면 AI가 더 정확한 결과를 돌려준다. 언어 모델은 책·기사·웹사이트 등 방대한 텍스트로 학습해 문장의 순서와 의미를 분석하고 다음에 올 말을 예측하는, '디지털 세계의 마법사' 같은 프로그램이다.

역사를 보면 1964~66년 MIT에서 만든 ELIZA가 패턴 매칭으로 심리상담사를 흉내 냈지만 실제로 이해한 것은 아니었다. 1970년대 SHRDLU를 거쳐 2010년경 딥러닝과 신경망이 등장했고, 2018년 GPT-1, 2019년 GPT-2, 2020년 1,750억 파라미터의 GPT-3, 그리고 GPT-4로 이어지며 언어 모델이 비약적으로 발전했다.

좋은 프롬프트의 마인드셋은 구글 검색과 비슷하다. 한 번에 잘 물어 시간과 토큰을 아끼는 것이다. 명확한 지시('선거가 언제냐'가 아니라 '폴란드 차기 대선이 언제냐'), 페르소나 부여(특정 작가 스타일로 시 쓰기), 형식 지정(불릿 10단어 이내)이 핵심이다. 예시 없이 묻는 제로샷, 예시를 주는 퓨샷도 다룬다. 또 AI가 데이터를 잘못 해석해 만드는 환각(구글 딥드림 이미지), 단어의 의미를 숫자 배열로 표현해 의미 기반 검색을 가능케 하는 텍스트 임베딩까지 입문 지식을 폭넓게 정리한다.

주요 인사이트

• 같은 '문단을 고쳐줘'라도 역할(영어 교사)과 조건을 더하면 학습 경험과 결과가 전혀 달라진다.
• 프롬프트 작성은 구글 검색과 비슷해, 무엇을 어떻게 묻느냐에 따라 결과의 질이 크게 달라진다.
• AI가 무엇을 아는지 가정하지 말고 어느 나라·어떤 맥락인지 구체적으로 물어야 시간과 토큰(비용)을 아낀다.
• 임베딩은 단어를 사전순이 아니라 의미 기준으로 비교하게 해줘, food와 비슷한 말로 foot이 아닌 burger를 찾게 한다.
• ELIZA처럼 이해하는 듯 보여도 실제로는 규칙을 따랐을 뿐이라는 점은, 오늘날 AI를 대할 때도 새겨둘 만한 교훈이다.

자주 묻는 질문

관련 AI 소식