NemoClaw와 로컬 LLM으로 AI 에이전트를 안전하게 배포하는 방법

핵심 메시지

• OpenClaw는 실험·로컬 개발용의 유연한 오픈소스 자율 AI 에이전트로, 파워셸·명령 프롬프트·파일 읽기/쓰기/삭제 등 시스템 전반에 폭넓게 접근할 수 있다.
• NemoClaw는 OpenClaw의 경쟁 제품이 아니라, 그 위에 엔비디아가 만든 '엔터프라이즈급 보안·정책 계층'을 씌워 에이전트를 안전하게 운영하게 해 준다.
• 핵심은 파워셸 같은 직접 권한을 떼어내고 정책이 적용된 '오픈셸(open shell)' 런타임 샌드박스 안에서만 에이전트가 동작하도록 가두는 것이다.
• 기본값으로 인터넷·네트워크 접근이 차단되며, YAML 정책 파일로 어떤 행동을 허용/금지할지 정밀하게 정의하고 필요할 때만 권한을 추가할 수 있다.
• 발표자는 엔비디아 DGX Spark에서 Ollama로 Qwen 계열 로컬 모델을 띄우고, 그 위에서 NemoClaw로 OpenClaw를 배포해 시연한다.

쉽게 이해하기

발표자는 앞서 OpenClaw와 Ollama로 텔레그램 연동·인터넷 검색 같은 복잡한 작업을 하는 개인 AI 비서를 만든 적이 있다고 소개하며, 이번엔 엔비디아 DGX Spark(개인용 AI 슈퍼컴퓨터)에서 NemoClaw라는 사용 사례를 직접 구현한다고 밝힌다. 먼저 OpenClaw와 NemoClaw의 차이를 명확히 짚는다.

OpenClaw는 빠른 프로토타이핑에 적합한 오픈소스 자율 에이전트지만, 로컬에 설치되면 파워셸·명령 프롬프트에 직접 접근해 파일을 읽고 쓰고 지우는 등 시스템에 무엇이든 할 수 있다. 편리한 만큼 원격 코드 실행이나 데이터 유출, 심하면 운영 데이터베이스 전체 삭제 같은 위험을 안고 있어 개발자 개인 설정에 크게 의존한다는 한계가 있다.

NemoClaw는 이 문제를 'open shell'이라는 잠긴 샌드박스 런타임으로 해결한다. 에이전트에게 파워셸을 그대로 주는 대신 오픈셸을 주고, 그 안에 정책을 붙여 허용된 기능만 쓰게 한다. 예를 들어 '파일 삭제 명령은 실행할 수 없다' 같은 정책을 여러 개 추가할 수 있고, 정책은 YAML 파일로 어떤 행동이 가능한지 정확히 정의한다. 여기에 엔비디아의 Nemo 가드레일도 함께 적용된다.

실습에서는 DGX Spark에 Ollama를 설치하고 17GB 크기의 Qwen 3 계열(약 27B 파라미터) 추론 모델을 배포해 빠른 추론을 확인한다. 이어 curl 명령으로 NemoClaw를 설치하면 모델 선택, 샌드박스 이름 지정, 브레이브 웹 검색 활성화(선택), 텔레그램·디스코드 같은 봇 연동 같은 옵션을 단계별로 고를 수 있고, 웹 UI로 OpenClaw에 접속해 상호작용한다.

시연에서 에이전트는 기본적으로 인터넷·네트워크 접근이 막혀 있고 이메일·트윗 전송도 차단된 상태다. 그 제약 안에서 '기본 스킬 만들기'를 지시하자 skill.md를 참조해 간단한 할 일 추적 스킬을 단계별로 생성한다. 발표자는 권한을 일일이 부여하지 않는 것이 핵심이며, 인터넷 접근이 필요하면 그때 말해서 정책을 갱신하면 된다고 강조한다. 통제권이 전적으로 사용자 손에 있다는 점이 엔터프라이즈 환경에서 NemoClaw의 강점이라고 결론짓는다.

주요 인사이트

• AI 에이전트의 위험은 '능력'이 아니라 '무제한 권한'에서 온다. NemoClaw는 권한을 기본 차단하고 필요할 때만 여는 최소 권한 원칙을 구조로 강제한다.
• OpenClaw와 NemoClaw는 대체재가 아니라 단계의 차이다. 빠른 프로토타이핑은 OpenClaw, 데이터 거버넌스가 필요한 엔터프라이즈 배포는 NemoClaw가 적합하다.
• 정책을 코드(YAML)로 정의하면 에이전트가 할 수 있는 행동을 명시적·검토 가능하게 관리할 수 있어, 개발자 개인의 설정 실수에 의존하던 보안을 시스템화한다.
• DGX Spark 같은 로컬 장비에서 모델 추론까지 모두 처리하면 데이터가 외부로 나가지 않아, 보안 샌드박스와 결합했을 때 데이터 유출 위험을 크게 줄일 수 있다.
• 현재 NemoClaw는 모델 선택이 엔비디아 Nemotron 계열 등으로 제한되는 경향이 있어, 보안과 모델 자유도 사이의 트레이드오프가 존재한다.

자주 묻는 질문

관련 AI 소식