앤드류 응 인터뷰: AI 에이전트 시대의 병목과 소규모 팀, 데이터 아키텍처 재설계

핵심 메시지

• 코딩 에이전트는 예상보다 빠르게 자리를 잡았고, 그 결과 병목은 제품 기획을 넘어 마케팅·법무·디자인으로 번졌다.
• 빌드가 하루로 줄면 일주일 걸리는 법무 검토가 새 병목이 되므로, 팀 구성 자체를 다시 짜야 한다.
• 기업의 상향식 AI 실험은 대체로 국소적 효율 개선에 그치고, 워크플로 전체를 다시 그리려면 넓은 권한을 가진 하향식 판단이 필요하다.
• 구조화 데이터에 쏟았던 노력만큼의 재설계가 비정형 데이터에도 필요하며, 아직 만족스러운 해법은 없다.
• 선도 모델이 1년 뒤에도 같으리라는 보장이 없으므로 장기 계약보다 선택지를 남기는 편이 낫다.

쉽게 이해하기

랭체인이 연 에이전트 콘퍼런스 인터럽트에서 앤드류 응은 지난 1년 동안 무엇이 예상보다 빨랐고 무엇이 느렸는지부터 답했다. 그가 꼽은 가장 빠른 변화는 코딩 에이전트다. 반년 전만 해도 거의 한 도구만 쓰다가 지금은 여러 코딩 에이전트를 섞어 쓰고, 휴대폰으로 코딩하는 일까지 하게 됐다고 말한다. 반대로 과열된 기대와 일자리 종말론 같은 비관론이 모두 예상보다 크게 번진 점은 아쉬운 대목으로 꼽았다.

그가 1년 전부터 이야기해 온 개념은 제품 기획 병목이다. 만드는 속도가 빨라지면 무엇을 만들지 정하는 일이 병목이 된다는 관찰이었는데, 지난 1년 사이 이 병목은 더 심해졌다. 다만 그가 강조하는 것은 병목이 하나가 아니라는 점이다. 소프트웨어를 열 배, 백 배 빨리 만들게 되자 마케팅 담당자는 엔지니어가 무엇을 만들었는지 따라잡느라 바빠졌고, 3개월 걸리던 개발이 하루로 줄자 일주일짜리 법무 검토가 그대로 병목이 됐다. 디자인도 마찬가지다.

그래서 그가 실험하는 조직 형태는 한 명에서 열 명 규모의 작은 팀이다. 넓은 가드레일 안에서 스스로 판단하고 마케팅 문구까지 쓰는, 맥락을 많이 가진 제너럴리스트들이다. 다섯 가지 기능이 필요한 일을 두 사람이 맡으면 한 사람이 여러 역할을 겸할 수밖에 없는데, AI를 쓰면 본업이 아닌 영역에서도 최소한의 초안은 만들 수 있다는 것이 근거다. 그는 자신이 좋은 마케터는 아니지만 AI를 쓰면 조금 덜 나쁜 마케터가 된다고 표현했다.

기업 도입에 관해서는 다소 냉정한 진단을 내놨다. 여러 기업이 상향식 혁신에 투자했지만 대체로 국소적인 효율 개선에 그치고 있고, 그래서 경영진이 투자 대비 성과를 묻는다는 것이다. 그가 든 예는 대출 심사다. 다섯 단계 중 심사 단계만 자동화하면 사람이 한 시간 쓰던 일을 줄이는 정도지만, 아예 '10분 안에 승인되는 대출'이라는 상품으로 전체 흐름을 다시 그리면 이야기가 달라진다. 문제는 그 재설계가 마케팅과 데이터 인프라, 실행 단계까지 함께 건드려야 해서 넓은 권한을 가진 사람 없이는 불가능하다는 점이다.

마지막 축은 데이터다. 지난 20년간 표와 관계형 데이터를 정리하는 데 공을 들였지만, 이제 AI가 문서·이미지·음성 같은 비정형 데이터를 다룰 수 있게 되면서 그것을 제때 제자리에 공급하는 일이 훨씬 중요해졌다. 그는 시장을 살펴봤지만 만족스러운 해법을 아직 찾지 못했고 자체 실험을 진행 중이라고 밝혔다. 걸림돌로는 데이터 파편화, 일관성 없는 스키마, 사람 기준으로 설계된 권한 체계를 들었다. 에이전트가 사람의 권한을 그대로 물려받아도 되는가 하는 질문이 아직 남아 있다는 것이다.

주요 인사이트

• 병목이 옮겨 다닌다는 관찰은 도구 도입만으로 생산성이 오르지 않는 이유를 설명한다. 한 공정이 열 배 빨라지면 그다음으로 느린 공정이 곧바로 전체 속도를 결정한다.
• 작은 제너럴리스트 팀이라는 구성은 인원 감축 논리가 아니라, 역할 간 인수인계에 드는 시간이 개발 속도에 비해 너무 커졌다는 판단에서 나온다.
• 상향식 실험은 아이디어를 만들지만 워크플로를 다시 그리지는 못한다. 부서 경계를 넘는 재설계는 그 경계를 넘을 권한이 있는 사람만 할 수 있다.
• 비용 절감보다 성장을 목표로 삼으라는 조언의 근거는 단순하다. 절감에는 상한이 있지만 성장에는 사실상 없다.
• 선도 모델과 코딩 에이전트가 1년 뒤 무엇일지 모른다면 장기 계약 할인은 선택지를 파는 대가다. 벤더 중립 도구가 중요해지는 이유도 같다.

자주 묻는 질문

관련 AI 소식