AI 에이전트 보안: 스노우플레이크 CSO가 말하는 모델·권한·데이터 3계층 방어

핵심 메시지

• AI가 코드를 대량 생성하고 외부 공격 에이전트도 AI 속도로 움직이는 만큼, 방어도 AI 속도로 자동 스캔·검토해야 한다.
• 에이전트 보안은 모델 보호, 모델 주변의 권한·실행 환경 제어, 데이터 자체의 거버넌스라는 세 계층으로 나눠 접근한다.
• 에이전트는 가능한 모든 경로를 시도하므로, 사람에게서 상속한 넓은 권한이 의도치 않은 부작용을 낳을 수 있다.
• '스킬'에 상식적 보안 규칙을 인코딩해 코드 생성 시 자동으로 베스트프랙티스를 적용하면 실천을 확장할 수 있다.
• 빌드가 싸고 빨라진 세상에서 인간의 가치는 창의성, 도메인 전문성, 시스템 설계와 같은 판단에 있다.

쉽게 이해하기

스노우플레이크 서밋 2026 현장에서 진행된 이 대담은 '고장난 시스템으로 고장난 시스템을 고칠 수 있는가'라는 질문으로 시작한다. AI로 시스템을 만들고 그 시스템을 다시 AI로 지키는 상황이 모순처럼 보이지만, 스노우플레이크 최고보안책임자는 이를 같은 동전의 양면으로 본다. AI가 코드를 폭발적으로 만들어내는 만큼 같은 속도로 코드를 스캔해 문제를 찾아야 하고, 외부에서 기업을 탐색하는 공격 에이전트도 AI 속도로 움직이기 때문에 방어 역시 AI 속도로 작동해야 한다는 것이다.

AI를 얼마나 신뢰할지는 점진적으로 쌓인다고 설명한다. 처음 완전자율주행 차에 탔을 때 운전대를 꽉 붙잡고 있다가 시간이 지나며 손을 놓게 되는 것처럼, 에이전트에 대한 확신이 커질수록 더 많은 리스크를 감수하게 된다는 비유다. 동시에 소프트웨어 엔지니어링, QA, 보안이라는 과거의 분리된 역할이 서로 겹치기 시작했고, 스노우플레이크는 보안 운영팀과 보안 엔지니어링팀을 한 조직으로 합쳐 내부 도구를 AI로 빠르게 만들어 쓴다고 밝힌다.

핵심은 3계층 프레임이다. 첫째는 모델 자체의 보안으로, 프롬프트 인젝션 같은 공격을 막는 것이다. 둘째는 모델 주변, 즉 에이전트가 무엇을 할 수 있는지 정하는 권한 시스템과 실행 환경(스캐폴딩·하네스)의 제어다. 셋째는 데이터 자체의 거버넌스와 권한이다. 개인보다 기업의 기준이 훨씬 높은 이유는, 그들에게 의존하는 고객이 있어 타인의 데이터를 함부로 다룰 수 없기 때문이라고 강조한다.

에이전트의 강점과 위험은 같은 곳에서 나온다. 과거의 시스템은 개발자가 미리 연결해 둔 결정론적 파이프라인이었지만, 에이전트는 자신이 접근할 수 있는 것과 목표를 스스로 파악해 여러 경로를 시도하며 즉석에서 '자가 배선'한다. 이 창의성 덕분에 자동화하기 어렵던 문제를 풀 수 있지만, 좁은 경로만 밟으면 될 일에도 온갖 것을 탐색해 부작용을 낼 수 있다. 그래서 제약과 보안이 중요해진다.

실천 방법으로는 '스킬'을 제시한다. 버퍼 오버플로우나 인증 우회를 방지하는 규칙 등을 스킬로 인코딩해 두면, 코드가 생성될 때 해당 워크플로에 맞는 스킬을 골라 베스트프랙티스를 자동으로 지키게 할 수 있다. CTO에게는 3계층 방어를 갖춘 플랫폼 선택, 에이전트 아이덴티티와 감사 체계 구축, 그리고 사람에게 부여된 권한을 에이전트가 상속한다는 점을 감안한 권한 재점검을 권한다.

주요 인사이트

• AI를 방어에 쓰는 것은 선택이 아니라 필수다 — 공격 측이 이미 AI 속도로 움직이기 때문이다.
• 오래된 취약 코드를 패치할지 통째로 재작성할지는 새 논쟁거리이며, 재작성 시 엣지케이스를 보장하려면 철저한 테스트 스위트와 핵심 사용자 여정 문서화가 전제되어야 한다.
• AI는 '위대한 평준화자'로, 뛰어난 개발자가 아니어도 코드를 쓸 수 있게 하지만 그만큼 무엇을 만들지 사고하는 능력이 중요해진다.
• 에이전트 권한 점검은 지금 당장 해야 할 일 — 사람이 가진 넓은 권한을 에이전트가 그대로 물려받기 때문이다.
• 코드의 가독성 대상이 '동료 개발자'에서 '에이전트'로 옮겨가며, 아키텍처 수준의 시스템 이해와 컴포넌트화가 더 중요해진다.

자주 묻는 질문

관련 AI 소식