젠슨 황 오픈 에이전트 시스템 - 기업용 AI 하네스와 모델 전문화, 거버넌스 전략

핵심 메시지

• LLM 자체보다, 도구·메모리·검색·안전장치로 그 모델을 감싸는 '하네스(harness)'가 실제로 쓸모 있는 AI 제품을 만든다.
• 범용 프런티어 모델로 시작하되, 문제가 충분히 무르익으면 사내 지식과 도구로 전문화한 '슈퍼 에이전트'를 따로 구축한다.
• 기업의 경쟁력은 고유한 전문 지식이므로, 그 지능을 외부에 맡기지 말고 직접 통제·개선할 수 있는 오픈 스택이 필요하다.
• 저렴하고 빠른 오픈 가중치 모델은 더 넓은 탐색과 반복을 가능케 해, 비용을 낮추면서도 더 나은 답을 끌어낼 수 있다.
• 에이전트 도입의 관건은 접근 권한·샌드박스 같은 거버넌스와, 성과를 판단하는 평가(eval) 체계다.

쉽게 이해하기

엔비디아 CEO 젠슨 황과 AI 개발 프레임워크 랭체인이 나눈 대담에서, 두 사람은 지난 몇 달 사이 여러 기술이 한데 모이면서 AI가 비로소 '실제로 쓸모 있는' 단계에 들어섰다고 진단했다. 성능 향상만큼이나 개방성·통제·신뢰가 중요해졌고, 그래서 모든 기업이 AI를 자기 업무에 끌어들이려 한다는 것이다.

논의의 핵심은 '하네스(harness)'라는 개념이다. 거대 언어 모델은 필수 재료일 뿐, 이를 검색(RAG)·도구 사용·메모리·안전장치·반복 실행으로 감싸야 비로소 제품이 된다. 랭체인은 바로 이 껍데기를 만드는 역할을 하며, 최근의 돌파구는 지식에 근거하고 도구를 쓰며 스스로 반복하는 '에이전트형 시스템'이라고 설명했다.

젠슨 황은 엔비디아가 오픈 에이전트 생태계에 투자하는 이유로, 기업마다 고유한 전문 지식이 있고 그 지능이 곧 기업의 정체성이기 때문이라고 말했다. 범용 지능은 클라우드의 파운데이션 모델이 담당하지만, 그 위에 얹는 전문 역량은 각자가 직접 만들고 통제해야 하며 이를 외부에 위탁하는 것은 말이 안 된다는 것이다.

실무 전략으로는 '프런티어 모델로 시작해 필요할 때 전문화하라'는 원칙이 제시됐다. 클로드 코드나 코덱스 같은 프런티어 모델로 최대한 밀고 나가되, 공급망 최적화나 칩 설계처럼 어려운 문제에는 사내 지식·도구를 붙인 전용 서브 에이전트를 별도로 만든다. 영상에서는 오픈 가중치 모델을 랭체인 하네스에 넣어 내부 벤치마크에서 프런티어급에 근접한 점수를 냈고 비용은 훨씬 저렴했다는 사례도 소개됐다.

두 사람은 에이전트를 지나치게 의인화하지 말라고도 덧붙였다. 에이전트는 의식이 없는 소프트웨어이며, 우리가 그 작동 원리를 알기에 계속 개선할 수 있다는 것이다. 오히려 AI를 많이 쓸수록 평가·가드레일·시스템 설계 같은 새로운 일이 늘어 사람을 더 뽑게 된다고 봤다.

주요 인사이트

• '모델이 충분히 좋아지는 순간'이 전문화의 신호다. 그 전까지는 프런티어 모델을 그대로 쓰는 편이 시간과 비용 대비 유리하다.
• 비용이 싸지면 지능을 '더 많이' 쓰게 된다. 빠르고 값싼 모델은 더 넓은 탐색 공간을 반복해 오히려 더 나은 결과에 이를 수 있다.
• 미래의 기업은 정형화된 업무 프로세스가 아니라, 자율적으로 돌아가는 '하네스' 위에 세워질 것이라는 전망이 제시됐다.
• 에이전트를 조직에 들이는 일은 신입 직원을 온보딩하는 것과 같다. 역할에 맞는 접근 권한과 격리된 실행 환경이 없으면 배포 자체가 불가능하다.

자주 묻는 질문

관련 AI 소식