안전한 에이전트 시대: 자격증명 격리와 에이전트 협업 인프라 (Illia Polosukhin)

핵심 메시지

• AI는 백엔드 기능에서 챗봇으로, 다시 사용자를 대신해 행동하는 에이전트로 이동했고, 이제 여러 에이전트가 서로 조율하는 단계로 넘어가고 있다.
• 현재 인터넷은 사람이 클릭·입력하도록 설계돼 에이전트 시대의 시빌 저항, 상거래 가드레일, 프라이버시를 감당하지 못한다.
• Iron Clad는 도구를 WebAssembly로 격리하고 모든 외부 연결을 가로채, 자격증명을 도구에서 분리해 암호화된 보안 지갑에서 정책으로 검증한다.
• 예컨대 어떤 도구가 사용자의 구글 API 토큰을 evil.com으로 보내려 하면 정책이 이를 차단·기록하고 해당 도구를 비활성화한다.
• 에이전트들이 서로를 고용해 작업을 맡기는 마켓플레이스와, 결과를 평가하는 '심판 에이전트' 분쟁 시스템으로 신뢰할 수 있는 협업 상거래를 지향한다.

쉽게 이해하기

발표자 일리아 폴로수킨(Illia Polosukhin)은 구글 재직 시절 'Attention Is All You Need' 논문의 공저자였고, 현재는 NEAR Protocol의 공동 창업자로 에이전트 상거래 인프라를 만든다. 그는 지난 3~4년간 AI가 사용자가 인지하지 못하는 백엔드 기능(구글·아마존 추천)에서, 직접 대화하는 챗봇으로, 다시 사용자를 대신해 행동을 실행하는 에이전트(Claude·Codex·Claude Code)로 이동했다고 정리한다.

그가 주목하는 다음 전환은 '다중 에이전트 조율'이다. 에이전트가 늘 API에 접근할 수 있는 것은 아니어서 물리적 도구나 현실 세계의 작업을 위해 서로 협력하기 시작한다. 그 결과 사람이 수백 개 앱을 일일이 찾아 설정하던 방식이 압축되고, AI가 컴퓨팅·인터넷·세상과 연결하는 일종의 운영체제가 되며 '의도 중심' 상호작용으로 옮겨간다는 것이다.

문제는 지금의 인터넷이 이런 시대에 맞게 설계되지 않았다는 점이다. 사람이 클릭하고 URL을 입력하도록 만들어졌을 뿐, 한 에이전트가 실수로 웹사이트를 DDoS하는 상황에 대한 시빌 저항, 에이전트 간 상거래를 막지 않으면서도 가드레일을 두는 장치, 그리고 사용자 정보와 거래 이력이 대량으로 시스템에 들어가는 데 필요한 프라이버시가 부족하다. 그는 '의도 기반 API', 중립적 레일, 기밀성이 필요하다고 말한다.

이를 위해 만든 것이 오픈소스 Iron Clad다. 사용자는 이 기술을 최대한 쓰고 싶지만 자신의 자격증명·이메일·신용카드·암호화폐 지갑을 에이전트에 맡기기 어렵다. 실제로 OpenAI·Anthropic 도구를 쓰면 모든 자격증명과 접근 토큰이 그쪽으로 흘러가고, 프롬프트 인젝션으로 홈 폴더가 삭제될 위험도 있다. Iron Clad는 유닉스식 '심층 방어' 원칙을 따라 도구를 WebAssembly로 격리하고, 나가는 모든 연결을 가로채 자격증명을 도구에서 떼어내 암호화된 지갑에서 정책으로 검증한다.

두 번째 축은 협업이다. 그는 에이전트들이 서로를 고용하는 마켓플레이스를 소개한다. "웹사이트를 대신 만들어 달라" 같은 단순 작업부터 "2주 안에 LA 항구로 강철 1만 톤을 배송할 최적 경로를 찾아 달라" 같은 복잡한 작업까지, 에이전트가 제안서를 내고 선택받아 수행한다. 사람을 위한 UI도 있어 하위 호환된다. 결과가 기대와 다를 때를 대비한 분쟁 시스템과, 작업 정의에 비추어 결과를 평가하는 '심판 에이전트'도 함께 작동한다.

주요 인사이트

• AI의 역할 전환을 그는 "사람이 제품과 대화하고 제품이 AI를 쓰던" 구조에서 "사람이 AI와 대화하고 AI가 제품을 쓰는" 구조로의 완전한 뒤집힘으로 요약한다.
• Iron Clad의 핵심은 자격증명을 도구 코드에서 분리해 별도의 암호화된 지갑에 두고, 나가는 연결마다 정책으로 검증한다는 점이다. 토큰 유출 시도를 차단·기록하고 도구를 비활성화해 '설계에 의한 보안'을 구현한다.
• 기밀 호스팅은 보안 엔클레이브 안에서 실행돼 운영자조차 사용 내용을 볼 수 없다. 디버깅이 어려워지는 대신 종단 간 프라이버시를 보장한다는 트레이드오프가 있다.
• 발표자는 에이전트 마켓플레이스를 Fiverr에서 사람을 고용한 것과 실제로 A/B 비교했고, 에이전트 쪽이 더 빠르고 저렴하며 원하는 통계 정보를 더 많이 제공했다고 전한다.

자주 묻는 질문

관련 AI 소식