컨텍스트 엔지니어링이란: 기업 AI가 파일럿에서 멈추는 이유와 데이터 기반 구축법

핵심 메시지

• 실험 단계는 끝났고, 지금 기업들이 마주한 것은 AI가 약속한 것과 실제로 내놓는 것 사이의 불편한 간극이다.
• 망가진 기반 위에 모델을 얹으면 변혁이 아니라 '같은 문제의 더 자신 있는 버전'이 나온다. AI는 잘못된 정보를 주면 잘못된 답을 아주 빠르게 내놓는다.
• AI가 답만 하던 시절에는 틀린 답이 성가심이었지만, 자율적으로 행동하는 에이전트에서는 규제 위반이나 보안 사고 같은 실질적 책임 문제로 바뀐다.
• 기업 데이터는 너무 크고 민감하고 분산돼 있어 모델 쪽으로 옮길 수 없다. 모델이 데이터가 있는 곳으로 가야 하며, 그래서 검색·검색증강 계층의 중요성이 오히려 커졌다.
• 앞서가는 조직은 '어떤 모델을 쓸까'를 먼저 묻지 않는다. '모델이 무엇을 볼 수 있어야 하는가'를 먼저 묻고 그 기반부터 만든다.

쉽게 이해하기

버나드 마의 팟캐스트에 나온 엘라스틱의 마시모 멜로는 기업 소프트웨어가 40~50년에 걸쳐 데이터, 맥락, 애플리케이션 로직, 사용자 경험이라는 층으로 쌓여 왔는데 AI가 그 층 전부를 동시에 흔들고 있다고 설명한다. 기존 스택에 모델만 하나 떨어뜨리면 될 것이라 여긴 조직들은 모든 부분이 한꺼번에 재배선되고 있다는 사실을 뒤늦게 발견한다는 것이다.

그가 반복해서 드는 비유는 클라우드 전환이다. 기존 패턴을 그대로 들어 올려 클라우드에 옮기면 문제가 해결될 것이라 믿었지만 오히려 문제가 늘었던 경험이 AI에서 되풀이되고 있다고 본다. 인터페이스가 바뀐다고 그 아래의 복잡성이 사라지지는 않는다. 컴플라이언스 점검을 실행하는 에이전트에게도 권한, 원본 기록, 감사 추적, 에스컬레이션 경로는 여전히 필요하며 단지 관리하기 더 어려운 곳으로 옮겨갈 뿐이다.

컨텍스트 엔지니어링을 경영진에게 설명하는 그의 방식은 간단하다. 세상의 데이터로 학습한 모델은 당신의 고객도, 정책도, 이력도, 위험 성향도 모른다. 적절한 데이터를 적절한 모델에 적절한 시점에 연결하고, 모델이 볼 수 있는 범위를 정의하고, 그 출력을 믿고 행동해도 될 만큼의 가드레일을 세우는 일이 컨텍스트 엔지니어링이라는 것이다. 그는 'AI가 뇌라면 맥락은 기억'이라는 비유를 인용한다.

차이가 극명해지는 지점은 에이전트다. 보안 관제 센터의 에이전트라면 최신 위협 인텔리전스와 과거 사고 이력, 명확한 에스컬레이션 절차가 있어야 한다. 이상거래 탐지 에이전트라면 현재 거래만이 아니라 그 고객의 이력, 적용되는 정책, 조직의 위험 임계값, 조치 권한, 남겨야 할 증적까지 알아야 한다. 이 중 무엇이든 빠지면 성능이 조금 떨어지는 에이전트가 아니라 부채가 된다는 것이 그의 표현이다.

그래서 그가 제시하는 실행 순서는 모델이 아니라 워크플로에서 시작한다. 그 워크플로가 의존하는 데이터를 파악하고, 권한을 정의하고, 프로덕션에서 AI가 실제로 무엇을 하고 있는지 관측할 수 있게 계측하라는 것이다. 그런 기반이 없으면 남는 것은 그럴듯해 보이는 챗봇뿐이라고 말한다.

주요 인사이트

• 대규모 언어모델이 등장했을 때 검색이 무용지물이 되는 것 아니냐는 질문이 있었지만, 결과는 정반대였다는 지적이 흥미롭다. 데이터를 모델로 옮길 수 없다는 제약 때문에 검색과 검색증강 계층이 배경 인프라가 아니라 결정적 계층이 됐다는 것이다.
• 검색, 검색증강, 관측 가능성을 값싼 범용 기능으로 취급해 온 조직에게는 전략적 재검토가 필요하다는 주장이 나온다. 이것들은 AI에 밀려나는 레거시 도구가 아니라 AI가 없으면 작동할 수 없는 토대라는 것이다.
• 많은 예산과 최고 성능 모델을 가진 조직이 앞서는 것이 아니라는 점도 짚는다. 데이터 접근, 신뢰, 통제, 측정이라는 화려하지 않은 부분을 해결한 조직이 앞서며, 이는 큰 예산이 아니라 이해와 절차의 문제라고 말한다.
• 두 사람이 공통으로 강조한 것은 모델 자체가 경쟁 우위가 될 수 없다는 점이다. 모두가 같은 모델에 접근할 수 있기 때문에, 차이를 만드는 것은 조직 내부의 질 좋은 데이터와 워크플로를 다시 설계할 능력이다.
• 예산으로 밀어붙이는 조직과 기반을 쌓는 조직 사이의 분화가 이미 시작됐다는 관측도 나온다. 비싼 모델 호출을 반복해 문제를 뚫는 방식과, 데이터에서 의미를 뽑아내 시간이 지날수록 정확해지는 시스템을 만드는 방식의 격차는 누적된다는 것이다.

자주 묻는 질문

관련 AI 소식