기업 AI 에이전트 도입의 벽: 박스 CEO 애런 레비가 짚은 코딩과 지식노동의 격차

핵심 메시지

• 코딩 영역에서는 에이전트가 수직 이륙했지만, 일반 지식노동에서는 같은 일이 벌어지지 않고 있다. 이 격차가 앞으로 몇 년간 기업의 핵심 과제가 된다.
• 차이의 원인은 모델이 아니라 조건이다. 코드는 텍스트이고 학습 데이터가 풍부하며 사용자가 기술적이고 무엇보다 결과를 테스트로 검증할 수 있다. 계약서나 재무 분석은 그렇지 않다.
• 레비는 CEO가 'AI 정신착란'에 특히 취약하다고 말한다. 실제 일이 벌어지는 현장에서 가장 멀리 떨어져 있어, 마지막 한 구간에 여전히 사람이 필요하다는 사실을 보지 못하기 때문이다.
• 벤처 자본이 토큰 비용을 대신 내주던 시기는 1년쯤 지속되다 끝났다. 이제는 실제 원가를 내야 하며, 관건은 '토큰 맥싱'이 아니라 '밸류 맥싱'이다.
• 에이전트에게 맥락을 최대한 많이 밀어 넣는 것은 답이 아니다. 보안 사고를 부를 뿐 아니라 주의가 분산돼 오히려 틀린 답을 낸다.

쉽게 이해하기

박스의 공동창업자이자 CEO인 애런 레비는 지금 기업 안에서 두 개의 서로 다른 풍경이 펼쳐지고 있다고 진단한다. 엔지니어링 조직에서는 에이전트 활용법이 이미 자리를 잡았고, 원래 1년 걸릴 프로젝트를 두 달로 줄이는 일이 현실이 됐다. 엔지니어링 시간의 60~80%는 프로젝트를 차별화하지 않지만 반드시 해야 하는 일에 들어가는데, 바로 그 부분을 에이전트가 가져갔기 때문이다.

반면 지식노동 쪽은 훨씬 지저분하다. 코드는 회귀 테스트로 망가진 곳을 찾아낼 수 있지만, 계약서가 맞는지는 계산으로 판정할 수 없다. 상대방의 수정 요구를 받아보거나 실제로 분쟁이 생겨봐야 알 수 있다. 게다가 엔지니어는 프로젝트 코드베이스 전체에 이미 접근 권한이 있는 반면, 기업의 다른 업무는 시스템마다 권한을 따로 받아야 하고 그중 상당수는 관리 상태가 나쁘다.

레비는 여기서 반대 방향의 위험도 지적한다. 그동안 '모호함을 통한 보안'에 기대 온 조직에서 에이전트가 갑자기 너무 많은 정보에 닿으면, 엉뚱한 사람에게 데이터가 새어 나간다는 것이다. 그래서 그의 결론은 맥락을 무한정 밀어 넣는 것이 아니라 '적절한 시점에 적절한 맥락과 적절한 가드레일'을 갖추는 쪽이다.

이 간극을 메우는 일이 새 직무를 만들어낸다. 그는 IT 조직에 속하되 실제 사업부에 파견돼 일하는 '내부 포워드 디플로이드 엔지니어' 역할이 생길 것으로 본다. 데이터 접근 권한을 뚫고, MCP 서버와 CLI를 세팅하고, 에이전트가 읽을 문서를 정비하고, 필요하면 업무 프로세스 자체를 다시 설계하는 일은 결국 기술 업무이기 때문이다.

비용 구조도 달라졌다. 레비는 벤처 자본이 토큰 값을 보조해 주던 짧은 호시절이 끝났다고 인정하면서도, 지금이 더 건강한 환경이라고 말한다. 다만 IT 예산은 업종에 따라 매출의 2~5% 수준이어서 AI 지출 전체를 감당할 수 없고, 결국 사업부가 예산과 활용처를 직접 쥐어야 한다고 봤다. 프롬프트를 잘못 걸어 하룻밤에 5만 달러 청구서를 받을 수 있다는 경고도 함께 덧붙였다.

주요 인사이트

• 레비의 조언 중 가장 실용적인 것은 '6개월 뒤에 다시 시도하라'는 것이다. 반년 전 코드베이스나 마케팅 캠페인에서 실패한 시도는 지금 모델로는 될 수 있으며, 그때의 판단을 그대로 들고 있으면 성과가 없다고 오판하게 된다.
• 그는 'IT 스택을 보여주면 그 회사의 문화를 맞힐 수 있다'는 오래된 명제를 갱신했다. 이제는 IT 스택을 보면 그 조직이 에이전트로 무엇을 얻을 수 있을지 보인다는 것이다. AI 논의처럼 보이는 대화가 사실은 데이터·IT 아키텍처 논의라는 지적이다.
• 에이전트가 소프트웨어를 대체할 것이라는 전망에 대해 레비는 반대로 본다. 사람보다 100배 많은 에이전트가 소프트웨어를 쓰게 되면 CRM이나 ERP 같은 기록 시스템의 가치는 오히려 올라간다는 것이다. 그는 MCP 서버를 붙인 뒤 세일즈포스를 예전보다 다섯 배는 더 쓴다고 말했다.
• 모델 하나에 전부를 걸지 말라는 조언도 나온다. 1~3년 안에 최상위 모델과 그 아래 모델의 비용 격차가 벌어지면서, 계획과 검토는 상위 모델이 맡고 중간의 대량 토큰 작업은 저렴한 모델이 처리하는 라우팅 구조가 중요해진다는 전망이다.
• 커리어 조언은 단순하다. 정보 접근성이 평평해진 지금은 실리콘밸리 밖에 있어도 카파시나 알트먼과 거의 같은 뉴스피드를 본다. 차이를 만드는 것은 정보가 아니라 기술을 끝까지 밀어붙여 보는 경험, 그리고 그것을 자기 업무 도메인 지식과 결합하는 능력이다.

자주 묻는 질문

관련 AI 소식