AI 엔지니어링 입문 가이드: 파운데이션 모델로 데모를 실제 프로덕션 제품으로 만드는 전 과정 정리

핵심 메시지

• AI 엔지니어링은 파운데이션 모델을 품질·안전·속도/비용·피드백 네 축을 만족하는 실제 제품으로 바꾸는 일이다.
• 데모는 프롬프트 한 번·수동 테스트로 충분하지만, 프로덕션은 평가 파이프라인·라우팅·가드레일·모니터링이 필요하다.
• 평가는 AI 개발을 추측에서 공학으로 바꾸는 핵심 역량으로, 정량 평가와 주관 평가(사람 또는 LLM 심판)를 함께 쓴다.
• RAG는 검색으로 근거를 더해 환각을 줄이고, 에이전트는 계획·도구·메모리로 다단계 작업을 수행한다.
• 도구를 가진 에이전트는 강력하지만 최소 권한·허용 목록·가드레일로 안전을 함께 설계해야 한다.

쉽게 이해하기

발표자는 칩 후옌의 책 'AI Engineering'을 길잡이 삼아, 파운데이션 모델(ChatGPT·Claude·Gemini·Llama 같은 대규모 언어 모델)을 실제로 쓸 수 있는 제품으로 만드는 과정을 설명한다. 핵심 목표는 출력의 품질, 사용자 안전, 응답 속도와 비용, 그리고 지속적인 개선을 위한 피드백 네 가지다. 모델 성능 향상과 API·MCP를 통한 손쉬운 접근, 빠른 개발 속도가 맞물리면서 AI 엔지니어링이 하나의 공학 분야로 자리 잡았다고 본다.

데모와 프로덕션의 차이가 강조된다. 데모는 프롬프트 한 번, 모델 호출 한 번, 모니터링 없는 저위험 환경이지만, 수백 명의 사용자를 감당하려면 시스템 설계, 평가 파이프라인, 컨텍스트와 도구, 여러 모델 간 라우팅, 가드레일, 모니터링과 피드백 루프가 모두 필요하다. 전체 수명 주기는 풀어야 할 문제 정의에서 시작해 모델 선택, 평가 지표 설정, 프롬프트·RAG·에이전트·파인튜닝, 프로덕션 아키텍처, 모니터링, 피드백 루프로 이어진다.

파운데이션 모델의 동작 원리도 짚는다. 모델은 토큰 단위로 텍스트를 읽고 다음 토큰을 확률적으로 예측하는 기계이며, 그래서 같은 질문에도 매번 다른 답이 나올 수 있다. 온도(temperature), top-p, top-k, 빈도·존재 페널티 같은 파라미터가 무작위성을 조절한다. 확률적 특성 때문에 모델은 존재하지 않는 사실을 자신 있게 지어내는 환각을 일으키며, 이는 지식 공백·약한 근거·패턴 완성 때문에 발생한다.

품질을 높이는 수단으로 프롬프트 엔지니어링, 컨텍스트 주입, 가드레일이 제시된다. 좋은 프롬프트는 역할 지정, 명확한 작업 설명, 배경 컨텍스트, 예시, 출력 형식을 결합한다. '이전 지시를 무시하라'거나 숨은 프롬프트를 노출시키려는 프롬프트 인젝션 공격에 대비해, 검색된 콘텐츠를 신뢰하지 않고 도구 권한을 제한하며 입력·컨텍스트·도구·출력 단계마다 검사를 두는 가드레일이 필요하다.

RAG는 문서를 청킹해 임베딩하고 벡터 스토어에 저장한 뒤, 질의 시점에 관련 청크를 검색해 프롬프트에 근거로 넣는 구조다. 키워드 검색(BM25), 의미 검색, 둘을 합친 하이브리드 검색이 있고 보통 하이브리드가 가장 강하다. RAG는 단일 단계 근거 응답에, 에이전트는 계획·도구 호출·관찰·메모리 갱신을 반복하는 다단계 작업에 적합하다. 에이전트에는 도구와 권한, 그리고 단기·장기 메모리 관리가 핵심이다.

주요 인사이트

• 측정할 수 없으면 개선할 수 없다. 비공개 평가 셋을 만들고 품질·안전·비용·지연을 함께 측정해야 리더보드에 의존하지 않고 자기 사용 사례에 맞는 결정을 내릴 수 있다.
• 같은 입력에도 출력이 달라지는 이유는 모델이 확률적으로 토큰을 생성하기 때문이며, 결정적 결과가 필요하면 코드 로직으로 처리하는 편이 낫다.
• RAG 품질의 대부분은 검색과 컨텍스트 품질에서 나온다. 청킹 방식, 임베딩 모델, 재정렬(re-ranking)을 데이터에 맞게 실험해야 한다.
• 에이전트는 똑똑한 워크플로일 뿐이다. 하나의 에이전트에 25개 도구와 15개 작업을 몰아주면 메모리가 폭발하고 결과가 나빠지므로 최소 권한 원칙을 따라야 한다.
• 메모리는 길어질수록 비용·지연·프라이버시 위험을 키운다. 작업에 도움이 되는 것만 저장하고 불필요한 것은 주기적으로 비워야 한다.

자주 묻는 질문

관련 AI 소식