컨텍스트 엔지니어링 완벽 정리 — 프롬프트 엔지니어링과 무엇이 다른가

핵심 메시지

• 컨텍스트 엔지니어링은 매 단계에서 모델이 무엇을 보고 무엇을 보지 않을지 결정하는 작업이다.
• 컨텍스트 창이 커져도 무조건 좋은 것은 아니며, 가득 채울수록 정확도가 떨어질 수 있다.
• 오염·산만·혼동·충돌이라는 네 가지 대표 실패 유형이 있다.
• 실전 4단계는 쓰기(Write)·선택(Select)·압축(Compress)·격리(Isolate)다.
• 프롬프트를 쌓기보다 고신호 토큰만 골라 담는 '큐레이션'이 핵심이다.

쉽게 이해하기

많은 사람이 AI 답변이 나쁘면 프롬프트를 더 길게 쓰는 것으로 해결하려 한다. 구글 클라우드 테크는 이것이 잘못된 접근이며, 프롬프트를 에세이처럼 늘리는 대신 컨텍스트 엔지니어링을 써야 한다고 말한다. 컨텍스트 엔지니어링은 시스템 메시지, 도구, 검색된 사실, 단기 메모, 장기 기억, 형식 규칙, 최근 대화 등 모델에 들어가는 모든 것을 매 호출 전에 조립하는 작업이다.

프롬프트 엔지니어링이 '어떻게 질문을 표현하는가'라면, 컨텍스트 엔지니어링은 '모델이 실제로 일을 해내도록 무엇을 먹이는가'이다. 모델을 단기 기억이 제한된 뇌로 보고, 다음 단계에 필요한 것만 그 제한된 공간에 채워야 한다는 관점이다.

컨텍스트 창이 커진다고 항상 좋은 것은 아니다. 창을 가득 채우면 오래되거나 관련 없는 텍스트, 혹은 서로 조용히 모순되는 조각들 때문에 정확도가 떨어진다. 특히 대화와 도구 출력이 눈덩이처럼 불어나는 에이전트에서 이 문제가 두드러진다.

영상은 네 가지 실패 유형을 든다. 오염(poisoning)은 환각된 사실이 컨텍스트에 들어와 반복 재사용되는 것, 산만(distraction)은 거대한 이력에 집착해 새 계획을 세우지 못하는 것, 혼동(confusion)은 무관한 세부가 오답으로 밀어붙이는 것, 충돌(clash)은 두 출처가 어긋날 때 잘못된 쪽을 고르는 것이다.

실전 4단계로 쓰기·선택·압축·격리를 제시한다. 쓰기는 메모를 컨텍스트 밖 스크래치패드에 저장하고, 선택은 지금 필요한 것만 검색해 가져오며, 압축은 긴 이력을 요약해 신호만 남기고, 격리는 큰 작업을 서브 에이전트로 나눠 상호 오염을 막는다. 보안 알림을 분류하는 예시 에이전트 '로그 룩(Log Look)'으로 각 단계를 설명한다.

주요 인사이트

• 컨텍스트는 이제 '희소한 작업 기억'으로 취급되며, 완벽한 프롬프트보다 고신호 토큰의 최소 집합을 고르는 방향으로 업계가 이동하고 있다.
• 네 가지 실패 유형에 이름을 붙여 알아두면, 무엇이 잘못됐는지 진단하고 고치기가 쉬워진다.
• 도구의 설명(description)도 컨텍스트의 일부이므로, 도구를 정의하는 방식 자체가 모델 성능에 영향을 준다.
• 격리 단계에서 읽기·채점·작성 서브 에이전트로 역할을 나누면 한 노이즈 출처가 전체를 오염시키는 것을 막을 수 있다.
• 컨텍스트 엔지니어링은 유행어가 아니라 프롬프트 엔지니어링의 자연스러운 발전이자, 신뢰할 수 있는 애플리케이션을 만드는 규율이다.

자주 묻는 질문

관련 AI 소식