프롬프트 엔지니어링 핵심 정리 - 좋은 프롬프트의 3가지 원칙과 모델 선택법

핵심 메시지

• 프롬프트는 자연어로 하는 프로그래밍이다. 인간 언어가 모호하고 모델이 의도를 항상 정확히 추론하지 못하기 때문에 그 간극을 프롬프트가 메운다.
• 좋은 프롬프트의 3원칙: ① 원하는 결과와 "완료 기준"을 명확히 하고 ② 필요한 맥락은 모두 주되 불필요한 맥락은 빼며 ③ 하지 말아야 할 것, 즉 제약과 가드레일을 분명히 한다.
• 모델이 좋아질수록 "최고의 편집자인 척하라" 같은 연출은 필요 없어졌지만, 목표·성공 기준·제약을 명확히 하는 일은 오히려 더 중요해졌다.
• 프롬프트는 작업과 모델에 맞춰야 한다. 추론에 오래 걸리는 모델일수록 범위를 또렷이 지정하지 않으면 막대한 연산을 낭비한다.
• ChatGPT의 메모리 기능은 강력한 차별점이지만, 깊은 기억은 아직 부족해 긴 프롬프트를 따로 저장해 두고 재사용하는 방식이 여전히 유효하다.

쉽게 이해하기

진행자 마이클 크릭스먼과 AI 전문가 네이트 B. 존스는 프롬프트의 본질을 "자연어로 하는 프로그래밍"으로 규정한다. 인간 언어는 본래 모호해서 정밀한 컴퓨터 언어가 생겨났는데, 이제 우리는 다시 자연어로 컴퓨터를 프로그래밍하고 있다. 게다가 모델은 똑똑해도 사용자가 모호하게 말하면 의도를 안정적으로 추론하지 못하고 추측에 의존한다. 그래서 프롬프트가 그 간극을 메운다. 추론 모델에 프롬프트를 넘기고 20~30분 뒤 결과를 확인하는 모습은 과거 펀치카드 컴퓨팅과 닮아 있다.

모델이 발전하면서 프롬프트는 한편으로 쉬워졌다. 2022~2023년식 연출(“최고의 편집자인 척하라”, “단계적으로 생각하라” 같은 사고 사슬 지시)은 더 이상 필요 없다. 최신 모델은 필요할 때 알아서 사고 사슬을 쓴다. 그러나 다른 한편으로, 무엇을 원하는지·성공 기준은 무엇인지·제약은 무엇인지 명확히 지정하는 일은 더 중요해졌다. 강력한 모델이 6~20분간 돌고 왔는데 범위를 또렷이 정하지 않았다면 연산을 통째로 낭비하기 때문이다.

존스는 모델별 특성을 이해하는 것이 프롬프트의 핵심이라고 본다. 예를 들어 딥 리서치는 웹 전반을 훑어 인용 중심으로 보고서를 만드는 좁은 웹 에이전트(ChatGPT의 경우 03 모델을 웹 검색에 특화)일 뿐, 갑자기 다른 모델이 슈퍼히어로로 변신하는 것이 아니다. 03 Pro는 표면적으로 비슷해 보여도 내부에 다양한 도구 호출을 가진 범용 모델이라는 점에서 딥 리서치와 다르다. 이런 미묘한 차이를 손끝 감각으로 알면 프롬프트 방식이 달라진다.

좋은 프롬프트의 세 가지 실천 원칙은 명료하다. 첫째, 원하는 결과와 모델이 "다 끝났다"고 판단할 기준을 분명히 한다. 둘째, 작업에 필요한 맥락은 모두 주되 불필요한 맥락은 배제한다. 많은 환각은 사실 모델이 원하는 맥락 밖에서 추론한 결과다. 셋째, 하지 말아야 할 것, 즉 제약과 가드레일을 명시한다. 사람들은 긍정적 지시만 주고 제약은 빠뜨리기 쉽지만, 아무리 똑똑한 모델도 가드레일이 필요하다. 존스는 "모델도 사람"이라며, 배우자나 동료도 내 마음을 읽지 못하듯 모델에게도 의도를 명시적으로 압축해 전달해야 한다고 말한다.

비판적 사고를 지키는 법으로는 "거울" 비유가 등장한다. 거울을 자신에게 향하면 확증 편향의 반사만 돌아오지만, 거울을 돌려 대상을 비추면 반대 의견이나 발산적 관점을 끌어낼 수 있다. 그래서 그는 모델에게 일부러 반박하고 싸우라고, 스틸맨(상대 논리를 가장 강하게 세운 반론)을 만들라고 요청한다. 또한 모델 간 전환이 번거로울 때는 기존 대화의 깔끔한 요약을 받아 새 모델에 붙여 넣는 방법을, 반복 작업에는 노션 등에 저장해 둔 긴 프롬프트를 복사해 쓰는 방법을 권한다. 그는 ChatGPT 메모리 기능을 강력한 제품 차별점으로 꼽으며, 1~2개의 더 나은 의사결정을 돕는다면 월 200달러 Pro 요금의 투자수익률도 충분하다고 본다.

주요 인사이트

• 오늘의 프롬프트는 "과정"이 아니라 "결과와 목표"에 초점을 둔다. 추론 모델이 사고 과정을 스스로 처리하므로, 어떤 관점·각도의 결과를 원하는지 알려주는 것이 핵심이다.
• 환각의 상당수는 모델이 원하는 맥락 범위를 벗어나 추론한 탓이다. 집중할 자료와 범위를 좁혀 줄수록 답이 정확해진다.
• 모델은 기본적으로 다수에게 도움이 되도록 학습돼 "최대공약수"식 평범한 답으로 기운다. 더 창의적이고 날카로운 답을 원하면 의도적으로 그렇게 밀어붙여야 한다.
• 프롬프트 실력만으로 가짜 전문가가 진짜처럼 보일 수 있다. 진짜 전문가는 균형을 깨는 질문에도 유연하게 대응하지만, 프롬프트에만 의존하는 사람은 거기서 무너진다.
• 대용량 정형 수치 데이터에는 LLM보다 SQL·머신러닝 같은 기존 도구가 적합하다. AI는 SQL 작성·스키마 설계·시각화 프로토타이핑을 돕는 용도로 쓰는 것이 효과적이다.

자주 묻는 질문

관련 AI 소식