컨피덴셜 AI란 무엇인가 — 신뢰 실행 환경과 어테스테이션으로 모델과 데이터를 지키는 법

핵심 메시지

• 컨피덴셜 컴퓨팅은 저장 중이나 전송 중이 아니라 연산 중인 데이터를 하드웨어 수준에서 보호해, 클라우드 관리자나 같은 서버의 다른 테넌트조차 내용을 볼 수 없게 만든다.
• 어테스테이션이 없으면 컨피덴셜 컴퓨팅은 의미가 없다. 내가 정말 그 보호된 환경 안에 있는지, 실행 중인 워크로드가 기대한 그것인지를 암호학적으로 증명받아야 한다.
• 규제 산업에서는 인프라를 제공하는 쪽과 그 인프라가 믿을 만하다고 증명하는 쪽이 달라야 한다는 '4개의 눈' 원칙 때문에 제3자 어테스테이션 수요가 있다.
• 서로 믿지 못하는 병원들과 모델 소유자가 각자 데이터를 암호화한 채 모아 보호된 환경 안에서만 복호화해 파인튜닝하면, 모델 지식재산과 환자 정보를 동시에 지키면서 성능을 올릴 수 있다.
• 에이전트 AI에서는 MCP 서버와 소형 도메인 모델을 보호 환경 안에서 돌리는 구성이 유력하며, 보안 연합체 CoSAI도 MCP 위협을 12개 범주로 정리하며 이를 주요 통제 수단으로 지목했다.

쉽게 이해하기

데이터 보호라고 하면 보통 두 국면을 떠올린다. 디스크에 저장된 데이터를 암호화하고, 네트워크로 오가는 데이터를 암호화하는 것이다. 그런데 정작 계산이 일어나는 순간에는 데이터가 평문으로 메모리에 올라간다. 컨피덴셜 컴퓨팅은 이 빈틈을 겨냥해, 프로세서 안에 하드웨어로 격리된 신뢰 실행 환경을 만들고 그 안에서만 복호화가 일어나게 한다. 발표자는 여기에 AI 워크로드를 얹은 것을 컨피덴셜 AI라고 정의했다.

이 구조가 막아주는 것은 외부 해커만이 아니다. 인프라를 운영하는 관리자, 같은 하드웨어에 올라탄 다른 고객, 그리고 상당 부분의 취약점 공격이 대상이다. 클라우드 관리자가 가상머신 스냅샷을 아무리 떠도 나오는 것은 암호문뿐이고, 복호화 키는 프로세서 안에 있다. AI 입장에서 지켜지는 자산은 모델 가중치와 학습 데이터는 물론이고 프롬프트와 컨텍스트 윈도우까지 포함된다.

실행 형태는 두 갈래다. 하나는 모든 것을 CPU에서 돌리는 방식으로, 100억 파라미터 규모까지의 추론에는 쓸 만하다. 다른 하나는 CPU와 GPU를 함께 쓰는 혼합 방식으로, 두 장치의 보호 영역을 하나로 이어 붙인다. 지금은 CPU가 암호화한 데이터를 버퍼에 놓고 GPU가 공유 비밀로 풀어 쓰는 소프트웨어 방식이 쓰이지만, 발표자는 1년 반에서 2년 뒤면 버스 자체가 암호화되고 두 장치가 서로 신뢰를 협상하는 하드웨어 방식으로 넘어갈 것이라고 내다봤다.

핵심은 어테스테이션이다. 클라우드가 '보호된 인스턴스를 드렸다'고 말해도 그것을 확인할 방법이 없으면 소용이 없다. 어테스테이션은 지금 돌아가는 환경이 진짜 그 제조사의 정품 보호 환경인지, 펌웨어와 소프트웨어가 어느 수준까지 패치됐는지, 실행 중인 컨테이너가 기대한 측정값과 일치하는지를 암호학적으로 증명한다. 누가 그 증명을 발급할지는 선택의 문제다. 클라우드 제공자를 그대로 믿어도 되는 업무가 있는가 하면, 규제 산업처럼 증명 주체를 분리해야 하는 경우도 있다.

발표의 절정은 세 가지 적용 사례였다. 구글의 컨피덴셜 스페이스는 보호된 환경에서 컨테이너를 돌리고 그 측정값으로 받은 토큰을 여러 클라우드의 데이터 저장소에 제시해 접근 권한을 얻는, 사실상 AI용 데이터 클린룸이다. 두 번째는 여러 병원과 모델 소유자가 서로를 믿지 못하는 상황에서 영상 진단 모델을 공동으로 파인튜닝한 사례다. 세 번째는 에이전트 AI로, 발표자는 앞으로 기업이 거대 모델 하나에 의존하기보다 작고 효율적인 도메인 모델 여러 개를 두고 MCP 서버와 함께 보호 환경 안에서 돌리는 쪽으로 갈 것이라고 전망했다.

주요 인사이트

• 컨피덴셜 컴퓨팅 도입의 실질적인 동력은 보안 자체보다 규제일 수 있다. 발표자는 유럽의 디지털 운영 복원력 규정, 미국 행정명령, EU AI법 모두에 이 기술을 가리키는 대목이 있다고 짚으며, 기업과 클라우드가 규제 체크 항목을 채우려 움직이고 있다고 설명했다.
• 초기 기술은 개발자가 무엇을 보호 영역에 넣을지 일일이 손보게 만들어 진입 장벽이 높았다. 지금 확산의 열쇠는 기존 가상머신 이미지와 컨테이너를 그대로 옮겨 실행할 수 있게 한 점이다. 관리 방식도 운영 방식도 그대로이고, 콘솔에서 인스턴스 종류만 바꿔 고르면 된다.
• 병원 사례가 보여주는 것은 이 기술이 '보안'을 넘어 '협업의 전제'가 된다는 점이다. 각 병원이 자기 키로 데이터를 암호화하고 모델 소유자도 모델을 암호화한 뒤, 정책 검증을 통과했을 때만 보호 환경 안으로 복호화 키가 풀린다. 학습이 끝나면 데이터는 삭제되고 모델은 다시 암호화돼 소유자에게 돌아간다.
• 멀티 클라우드 질문에 대한 답이 현실적이다. 어테스테이션은 독립 제3자를 쓰면 클라우드를 옮겨도 워크로드를 고치지 않아도 되지만, 지금은 CPU와 GPU가 같은 클라우드 안에 있어야 한다. 발표자는 나중에는 CPU와 GPU를 가장 싼 곳에서 각각 빌려 연합하는 형태도 가능하리라 보았다.
• 이 발표는 인텔 소속 엔지니어가 자사 기술을 포함해 설명한 자리다. 개념과 규제 흐름, 구글·탈레스 사례는 업계 공통이지만 특정 제품명이 함께 언급된 맥락은 감안해 읽는 편이 좋다.

자주 묻는 질문

관련 AI 소식