프롬프트 엔지니어링 기초 정리 — 역할·맥락·명령·형식·어조 5요소와 AI 환각 줄이는 법

핵심 메시지

• 프롬프트는 역할·맥락·명령·형식·어조라는 다섯 요소를 조합해 설계하면 결과 품질이 크게 달라진다.
• 모호한 지시는 AI가 임의로 가정하게 만들고, 그 결과 재요청이 반복되며 시간이 낭비된다.
• 환각은 고칠 수 있는 결함이 아니라 언어 모델의 본질적 특성이므로 사용자 쪽 검증 절차가 반드시 필요하다.
• 출처 제한, 출처 표기 요구, 건조한 서술 지시, 답변 보류 허용 같은 문구만으로도 허위 생성이 줄어든다.
• 퓨샷·생각의 사슬·반복 개선·비교 선택·도구 사용·지식 주입·체인형이라는 일곱 가지 패턴을 상황에 맞게 섞어 쓴다.

쉽게 이해하기

이 강의는 생성형 AI 활용 과정의 첫 장으로, 프롬프트 작성의 원리를 다룬다. 강사는 한 에듀테크 팀이 신규 강의 홍보 카피를 생성형 AI로 만들려다 겪은 문제를 사례로 든다. 결과물이 기대에 못 미쳤을 뿐 아니라 일부 문장이 과장되거나 실제와 다른 정보를 담는 환각까지 나타났다는 상황이다.

핵심은 프롬프트를 다섯 개 요소로 쪼개 설계하는 것이다. 입력 쪽에는 AI에게 어떤 입장을 맡길지 정하는 역할, 판단에 필요한 배경을 주는 맥락, 무엇을 해달라는 것인지 구체화하는 명령이 있다. 출력 쪽에는 표나 리스트처럼 결과물의 구조를 지정하는 형식과, 말투와 분위기를 정하는 어조가 있다. 여기에 제약 조건이나 참고 자료를 필요에 따라 덧붙인다.

강사는 같은 요청을 모호하게 던졌을 때와 명확하게 던졌을 때를 나란히 비교해 보여준다. '이 회의록 좀 정리해 줘'는 무엇을 정리하라는 것인지 알 수 없어 두서없는 요약이 나오지만, '세 문단으로 요약하되 각 문단을 배경·논의·결론 순으로 정리해 줘'는 논리 구조가 갖춰진 결과를 만든다. AI가 모호함을 임의의 가정으로 메우기 때문에 생기는 차이다.

두 번째 주제는 환각이다. 사실이 아니거나 존재하지 않는 정보를 그럴듯하게 만들어내는 현상으로, 학습 데이터의 부정확성, 문맥 이해의 한계, 과도한 일반화가 원인으로 제시된다. 실제 사례로는 2023년 미국의 한 변호사가 챗봇이 제시한 존재하지 않는 판례 여섯 건을 법원에 그대로 제출했다가 제재를 받은 마타 대 아비앙카 사건이 언급된다.

마지막 주제는 실무 패턴이다. 예시를 두어 개 붙여 형식을 맞추는 퓨샷, 단계별로 생각하게 하는 생각의 사슬, 자기 답을 스스로 점검해 고치게 하는 반복 개선, 대안을 여러 개 만들어 비교시키는 방식, 웹 검색 같은 외부 도구를 쓰게 하는 방식, 회사 데이터를 함께 넣어주는 지식 주입, 그리고 앞 단계 출력을 다음 단계 입력으로 넘기는 체인형이 차례로 소개된다.

주요 인사이트

• 프롬프트가 명확해야 하는 진짜 이유는 예의가 아니라 구조다. 질문이 모호하면 AI는 임의의 방식으로 추론하고, 명확한 지시는 그 추론 방향을 통제하는 장치가 된다.
• 환각을 줄이려면 창의성을 낮춰야 한다는 점이 반직관적이다. 창의적으로 서술하라고 지시할수록 허위 생성 가능성이 높아지므로, 사실 확인이 목적이라면 건조하게 서술하고 창작하지 말라고 못 박는 편이 낫다.
• '모르면 확인 불가라고 답해 달라'처럼 답변을 보류할 선택지를 명시적으로 열어주는 것만으로도 지어내는 응답이 줄어든다.
• 마크다운을 쓰는 이유는 보기 좋아서가 아니라 기계가 이해하기 쉬운 구조화된 언어이기 때문이다. 제목·번호·구분선으로 지시의 위계를 표시하면 출력 형식을 통제하기 쉬워진다.
• 체인형 프롬프트는 각 단계의 출력이 다음 단계의 입력이 되는 파이프라인을 만든다. 복잡한 업무를 쪼개 결과 품질을 예측 가능하게 만들고 반복 자동화의 토대가 된다는 점이 핵심이다.

자주 묻는 질문

관련 AI 소식