AI 시대에도 쿠버네티스와 데브옵스 자격증이 필요한 이유, 그리고 다중 에이전트로 만든 AI 튜터 구축기

핵심 메시지

• 쿠버네티스는 15년 전의 리눅스처럼 인프라의 사실상 표준이 되었고, AI 모델을 학습·추론하는 기본 플랫폼으로 자리 잡았다.
• AI가 코드를 대신 써주더라도 결과의 좋고 나쁨을 판단하려면 탄탄한 기초 지식과 도메인 전문성이 필요하다.
• 개발자의 일은 직접 만드는 것에서 여러 에이전트를 관리하고 아키텍처를 설계하는 방향으로 바뀌고 있다.
• 코드클라우드는 랭그래프 기반의 특화 에이전트 5개로 즉석에서 실습형 수업을 생성하는 AI 튜터를 만들었다.
• 값싼 모델과 프롬프트 보안 필터(모델 아머)를 결합해 한 개 수업 생성 비용을 3센트 미만으로 낮췄다.

쉽게 이해하기

구글 클라우드의 새 팟캐스트 '에이전트 팩토리' 첫 회에서 진행자는 코드클라우드(KodeKloud) 창업자 뭄샤드 만남베스를 초대해, AI가 코딩을 대신하는 시대에 쿠버네티스와 데브옵스 자격증이 여전히 의미가 있는지 물었다. 뭄샤드는 쿠버네티스가 컨테이너 경쟁에서 승리해 인프라의 사실상 표준이 되었으며, AI 모델을 학습하고 추론하는 데 기본이 되는 플랫폼이라고 답했다.

자격증은 대상에 따라 나뉜다. 인프라를 운영하는 관리자에게는 네트워킹·스토리지·보안까지 아우르는 CKA가, 애플리케이션을 배포하는 개발자에게는 파드·서비스·디플로이먼트 같은 핵심 개념 위주의 CKAD가 적합하다. 보안 특화 CKS가 있고, 네트워킹 특화 자격증도 준비 중이라고 소개했다.

AI가 코드를 써주는 시대에 왜 사람이 필요한가라는 질문에, 뭄샤드는 로고를 만드는 그래픽 디자이너를 예로 들었다. 누구나 AI로 결과물을 뽑을 수 있지만, 열 개 중 무엇이 브랜드에 맞는지 가려내는 눈은 훈련된 전문가에게만 있다는 것이다. 개발과 데브옵스도 마찬가지로, 기초가 부실하면 AI가 잘못된 방향으로 가도 알아채지 못한다고 지적했다.

채용과 학습의 방식도 달라지고 있다. 누구나 AI로 과제를 완성하는 만큼 재택 과제의 의미가 사라지고, 시스템 설계와 아키텍처를 잡는 능력, 그리고 여러 에이전트를 동시에 지휘하는 '관리자'로서의 역량이 중요해진다. 방대한 CNCF 생태계 앞에서는 각 분류마다 가장 널리 쓰이는 도구 하나를 깊게 익히고 그 개념을 다른 도구로 옮겨가는 학습법을 권했다.

대담 후반부에서는 코드클라우드가 구글 클라우드 위에 구축한 AI 튜터의 내부 구조가 공개됐다. 수업 생성·다이어그램·영상·튜터 채팅·라이브 어시스트를 담당하는 다섯 개의 특화 에이전트가 랭그래프로 엮여 있고, 사용자가 주제를 고르는 사이 백그라운드에서 다이어그램과 설명 영상이 병렬로 만들어진다. 이 영상은 실제 동영상 모델이 아니라 리액트로 그린 화면에 일레븐랩스 음성을 타임스탬프로 맞춰 합성한 것이다.

주요 인사이트

• 코드클라우드는 GKE 대신 컴퓨트 엔진 위에 자체 대형 쿠버네티스 클러스터를 구축하고, 사용자별 가상 클러스터를 배정해 하루 약 3만 개의 실습 환경(90%가 쿠버네티스)을 제공한다.
• 주력 모델은 값싸고 빠른 제미나이 3 플래시이며, 새 모델이 나올 때마다 평가를 돌려 더 낫거나 저렴하면 교체한다. 클로드·소넷 계열은 백업으로 둔다.
• '모델 아머'가 외부 모델로 오가는 프롬프트와 응답을 양방향으로 검사해 프롬프트 인젝션, 유해 콘텐츠, 악성 URL을 차단하고 실수로 섞여 든 키·비밀번호·이메일을 가린다.
• 기존 실습에 AI 어시스턴트를 붙여 12개월 운영한 결과, 이 기능을 쓴 사용자의 재방문·완주율이 약 두 배로 뛰어 AI 투자를 확신하는 근거가 됐다.
• 실제 동영상 생성은 여전히 비싸고 완성도가 낮아, 리액트 화면과 별도 생성한 음성을 타임스탬프로 동기화하는 '유사 영상' 방식이 더 실용적이라는 판단이다.

자주 묻는 질문

관련 AI 소식