프롬프트 엔지니어링 방법 4가지 — RAG, 생각의 사슬(CoT), ReAct, 방향성 자극 프롬프팅(DSP) 정리

핵심 메시지

• 프롬프트 엔지니어링은 거대 언어모델에서 원하는 답을 얻기 위해 질문을 설계하는 일이며, 환각(거짓 응답)을 줄이는 것이 핵심이다.
• RAG는 회사·산업 고유의 지식 베이스를 모델에 연결해 답을 그 내용에 '근거화(content grounding)'하는 방법이다.
• 생각의 사슬(CoT)은 큰 문제를 여러 단계로 쪼개 추론하게 해 더 정확한 답을 끌어낸다.
• ReAct는 추론에 '행동'을 결합해, 내부 지식에 없는 정보를 외부(공개) 자료에서 가져온다.
• 방향성 자극 프롬프팅(DSP)은 힌트를 줘 결과에서 원하는 특정 정보만 뽑아내는 기법이다.

쉽게 이해하기

IBM의 두 전문가가 링크드인에 프롬프트 엔지니어 채용이 급증한 배경을 언급하며 대담 형식으로 네 가지 기법을 풀어 간다. 거대 언어모델은 챗봇, 요약, 정보 검색 등에 쓰이는데, 이들과 효과적으로 소통하려면 적절한 질문을 설계해야 한다. 모델이 인터넷 데이터로 학습돼 상충하는 정보를 담고 있어 잘못된 답, 즉 환각이 생기기 쉽기 때문이다.

첫 번째는 RAG(검색 증강 생성)다. 모델은 사용자의 도메인 지식 베이스를 모르므로, 검색기(retriever)가 도메인 지식의 맥락을 생성기(generator)에 전달해 답을 그 내용에 근거하게 만든다. 회사 연간 실적을 그냥 물으면 부정확한 숫자가 나올 수 있지만, 신뢰할 수 있는 지식 베이스에 근거를 두면 정확한 값을 끌어낼 수 있다는 예가 제시된다.

두 번째는 생각의 사슬(CoT)이다. 큰 과제를 여러 부분으로 쪼개 각각의 결과를 합쳐 최종 답에 이르는 방식이다. 회사의 총매출을 한 번에 묻는 대신 소프트웨어·하드웨어·컨설팅으로 나눠 묻고 그 값을 더하게 하면, 모델이 추론과 설명 가능성을 거쳐 답에 도달한다. 발표자는 어떤 작업이든 먼저 RAG로 콘텐츠에 근거를 둔 뒤 프롬프트로 모델을 안내하라고 권한다.

세 번째는 ReAct다. CoT처럼 퓨샷 기법이지만 한 걸음 더 나아가 추론에 더해 '행동'을 한다. 비공개 지식 베이스에 없는 정보가 필요하면 공개 자료까지 찾아가 정보를 모은다. 2022년 실적은 사내 DB에, 2010년 실적은 외부 공개 자료에 있는 경우 ReAct는 '생각 → 행동 → 관찰'의 3단계로 각각을 가져와 비교한다.

네 번째는 방향성 자극 프롬프팅(DSP)이다. 전체 답이 아니라 원하는 특정 정보를 끌어내도록 힌트로 방향을 주는 기법이다. 연간 실적을 물으면서 '소프트웨어', '컨설팅' 같은 힌트를 주면 모델이 먼저 실적을 구한 뒤 해당 항목의 값만 추출한다. 발표자는 항상 RAG로 시작하고 CoT와 ReAct를 조합하거나 RAG와 DSP를 함께 써서 누적 효과를 내라고 정리한다.

주요 인사이트

• 네 기법은 경쟁 관계가 아니라 조합용이다. 항상 RAG로 도메인 콘텐츠에 초점을 맞춘 뒤 CoT·ReAct, 또는 RAG+DSP를 더하라.
• RAG와 ReAct는 비슷해 보이지만, RAG는 내부 지식에 '근거화'하는 데 그치고 ReAct는 외부 공개 자료까지 가서 정보를 가져온다는 점이 다르다.
• ReAct는 '생각 → 행동 → 관찰'의 3단계로 프롬프트를 나눠 처리하며, 행동 단계에서 외부 자원에 접근한다.
• 환각은 모델이 인터넷의 상충하는 데이터에서 답을 지어내며 생기므로, 신뢰할 수 있는 출처에 답을 묶어 두는 것이 중요하다.

자주 묻는 질문

관련 AI 소식