프롬프트·컨텍스트·하네스·루프 엔지니어링 차이 — AI 에이전트 작동 원리 정리

핵심 메시지

• 프롬프트·컨텍스트·하네스·루프 엔지니어링은 서로를 대체하는 유행어가 아니라 차례로 겹쳐 쌓이는 층이다.
• 프롬프트 엔지니어링의 핵심은 역할, 구체적인 질문, 출력 형식 세 가지다.
• 컨텍스트는 많을수록 좋은 것이 아니다. 입력이 길어질수록 성능이 떨어지는 현상이 확인됐다.
• 하네스는 모델에게 도구와 가드레일, 피드백 고리를 줘서 '말하는 모델'을 '일하는 에이전트'로 바꾼다.
• 루프 엔지니어링은 내가 에이전트에게 지시하는 대신, 에이전트를 지시하는 시스템을 설계하는 일이다.

쉽게 이해하기

AI 분야에는 새 용어가 따라가기 힘든 속도로 쏟아진다. 영상은 그중 서로 의미 있게 연결되는 네 가지, 프롬프트·컨텍스트·하네스·루프 엔지니어링을 실제 작업 화면으로 하나씩 보여준다. 넷플릭스 콘텐츠 데이터를 분석하는 노트북 프로젝트가 예시로 쓰인다.

먼저 프롬프트 엔지니어링은 모델에게 말을 거는 방식이다. 프로젝트 접근을 끊어둔 상태에서 '넷플릭스 작품이 성공하는 이유가 무엇이냐'고 묻자 블로그 글에서 베낀 듯한 일반적인 문단이 돌아왔다. 반면 '데이터 분석가 역할로, TV 시리즈가 영화보다 더 자주 갱신되는 이유에 대한 가설 세 개와 각 가설을 검증할 지표를 하나씩 제시하라'고 바꾸자 바로 검증 가능한 결과가 나왔다. 모델도 같고 데이터 접근도 없었으며, 바뀐 것은 역할·구체성·출력 형식뿐이었다.

다음은 컨텍스트 엔지니어링으로, 답을 만들 때 모델이 무엇을 볼 수 있게 할지를 관리하는 일이다. 코드베이스 접근을 켜고 노트북과 CSV 파일을 직접 물려주자 실제 열 이름을 쓰고 신경 쓰던 예외 상황까지 처리한 함수가 나왔다. 다만 영상은 중요한 제약을 강조한다. 2025년에 프런티어 모델 18종을 시험한 연구에서 예외 없이 모든 모델이 입력이 길어질수록 성능이 떨어졌고, 컨텍스트 창이 20만 토큰이어도 5만 토큰 지점부터 품질이 흔들릴 수 있다. 많은 컨텍스트가 아니라 맞는 컨텍스트가 필요하다.

세 번째 층인 하네스는 모델에게 도구를 줘서 직접 행동하게 만든다. 파일을 읽고 코드를 실행하고 결과를 관찰해 반응하는 고리가 생기면서, 답만 하던 모델이 일을 처리하는 에이전트가 된다. 영상에서는 실패하는 노트북 셀을 두고 '처음부터 끝까지 실행하고, 실패하면 원인을 찾아 고친 뒤 깨끗하게 끝날 때까지 다시 실행하라'는 지시 한 줄만 주었고, 이후 손대지 않은 상태에서 읽기·실행·오류 확인·수정·재실행이 이어져 문제가 해결됐다.

마지막은 루프 엔지니어링이다. 하네스 단계까지도 시작 버튼은 사람이 눌러야 하고, 끝나면 에이전트는 멈춰서 기다린다. 데이터가 계속 갱신되는 상황이라면 그 방아쇠 자체를 자동화해야 한다. 영상은 '50분마다 데이터셋에 변경이 있는지 확인하고, 있으면 분석을 다시 돌려 요약을 로그에 붙여라' 같은 시간 기반 루프와, 조건이 충족될 때까지 도는 목표 기반 방식을 함께 보여준다. 후자에서는 작업자와 검사자를 분리해 조건 달성 여부를 별도 평가자가 확인한다.

주요 인사이트

• 네 층은 사다리가 아니라 겹이다. 루프 안에도 프롬프트가 있고, 매 실행마다 컨텍스트가 다시 조립되며, 하네스는 계속 도구를 제공한다. 달라지는 것은 레버리지가 걸리는 지점이다.
• 하네스마다 성격이 다르다. 상용 코딩 에이전트는 컨텍스트 압축과 기억, 도구 조율을 알아서 처리해 편리한 쪽이고, 내장 도구 네 개와 1,000토큰 미만의 시스템 프롬프트만 두는 최소주의 하네스는 모든 동작이 투명해 통제와 감사에 유리하다. 자율성과 통제 사이의 다이얼로 보는 편이 맞다.
• 루프는 비용이 곱셈으로 늘어난다. 한 번의 에이전트 루프도 일반 대화보다 토큰을 많이 쓰는데, 여기에 주기 실행과 서브에이전트, 실패 재시도가 붙으면 더 커진다. 시작 전에 토큰 한도와 최대 반복 횟수를 정해두는 것이 안전장치다.
• 모호한 목표는 멈추지 않는 루프가 된다. '더 좋게 만들어라' 같은 목표는 에이전트가 완료를 판단할 수 없다. 테스트 통과, 파일 존재, 열 개수 일치처럼 이진으로 확인 가능한 조건이어야 루프의 목표가 된다.
• 작업한 쪽과 검사하는 쪽을 분리하는 설계가 인상적이다. 방금 코드를 쓴 주체는 그 코드가 좋다고 믿을 이유가 충분하지만, 독립된 검사자는 그렇지 않다.

자주 묻는 질문

관련 AI 소식