OpenAI 스타트업팀 인터뷰 - AI 네이티브 기업의 조건과 재귀적 자기개선의 작은 불꽃

핵심 메시지

• AI 네이티브의 핵심은 도구 목록이 아니라 태도이며, 두 사람은 그것을 '만지작거리는 사람(tinkerer)'이라는 말로 요약한다.
• 지난 9개월 사이 모델이 오래 자율적으로 돌면서 스스로 궤도를 수정하는 수준에 이르러, 스타트업의 구축 방식이 워크플로 설계에서 하네스 설계로 옮겨갔다.
• OpenAI는 자사 도구로 자사 도구를 만들며 모델 출시 주기를 15개월에서 6주로 줄였고, 이를 '재귀적 자기개선의 작은 불꽃'이라 표현한다.
• 팀은 작아지고 조직은 평평해지며, 제품과 엔지니어링의 경계가 흐려지는 변화가 이미 스타트업에서 관측된다.
• AI 시대에도 컴퓨터의 작동 원리와 알고리즘 같은 기초, 그리고 명확한 의사소통과 관계 구축 능력은 그대로 중요하다.

쉽게 이해하기

조코딩 채널이 OpenAI 본사의 스타트업팀을 이끄는 마크 마네라와, 같은 팀에서 응용 AI를 맡은 울피 베인을 초대해 나눈 대담이다. 두 사람 모두 창업자 출신으로, 팀 자체가 전직 창업자로 채워져 있을 만큼 스타트업에 밀착해 일한다고 소개했다. 이들의 일은 스타트업이 에이전트를 만들고 평가 체계를 세우고 때로는 모델을 미세조정하는 과정을 기술적으로 함께 파고드는 것이다.

가장 먼저 나온 화두는 도구 사용의 범위가 넓어졌다는 점이다. 베인은 코딩 도구로만 쓰던 것이 이제 조사, 분석, 문서 요약 등 거의 모든 업무로 번졌다고 말한다. 마네라는 매일 아침 정해진 시각에 같은 작업을 돌리는 자동화, 그리고 사용자의 마우스를 뺏지 않고 배경에서 프로그램을 조작하는 컴퓨터 사용 기능을 잘 알려지지 않은 활용법으로 꼽았다. 베인은 밤마다 코드베이스 리팩터링을 자동으로 돌려 '대청소 스프린트' 없이 계속 정비되는 상태를 유지하는 방식을 즐겨 쓴다고 했다.

'1인 유니콘'이 가능하냐는 질문에 마네라는 아직은 아니지만 가까워지고 있다고 답했다. 그가 최근 만난 스텔스 단계 창업팀은 사람을 뽑지 않고 에이전트로 제품과 고객 지원까지 구성해 어디까지 버틸 수 있는지 실험하고 있었다. 다만 기업 고객을 상대하는 회사는 여전히 사람이 필요하다고 선을 그었다. 베인은 다른 각도를 덧붙인다. AI를 잘 쓰면 10배가 아니라 100배 엔지니어가 될 수 있는데, 그렇다면 뛰어난 사람을 더 뽑을 이유도 함께 커진다는 것이다.

지난 1년 반을 돌아보며 두 사람은 추론 모델이 새 패러다임이던 시기를 지나, 최근 9개월 사이 모델이 훨씬 긴 시간 동안 도구를 제대로 쓰며 스스로 오류를 바로잡는 수준으로 올라섰다고 정리했다. 예전에는 실패가 누적되는 것을 막으려 창업자들이 촘촘한 워크플로를 짰지만, 지금은 하네스를 만들고 모델을 지능 엔진으로 두는 방식으로 바뀌었다는 것이다. 법률, 금융, 개인 비서, 범용 사내 에이전트 등 코딩 밖으로 이 흐름이 번지고 있다.

'OpenAI가 스타트업을 죽인다'는 밈에 대해 베인은 두 가지 기준을 제시했다. 내가 깊이 이해하는 실제 문제를 푸는가, 아니면 지능 일반에 관한 것을 만드는가. 후자라면 OpenAI가 만들 가능성이 크지만, 특정 산업의 워크플로를 파고드는 수직형 제품은 그 전문성을 가진 쪽이 계속 이길 것이라는 이야기다. 그는 여기에 '6개월 뒤를 보고 만들라'는 조언을 덧붙였다. 모델이 나아질 것을 전제로 만들어 둔 팀은 새 모델이 나오는 순간 곧바로 시장에 나설 수 있다는 것이다.

한국 기업들이 많이 말하는 AX, 즉 AI 전환이 실제로 무엇이냐는 질문에 베인은 태도의 문제라고 답했다. 20분 써 보고 아니면 버리되, 한 번 맞으면 일주일에 다섯 시간을 아끼는 도구를 만나는 식으로 계속 시도하는 조직이 최전선에 남는다는 것이다. 그는 코드처럼 마음에 안 들면 버리면 그만인 영역, 버그 리포트 분류처럼 틀려도 손해가 없고 맞으면 크게 이득인 영역부터 '후회 없는' 도입을 하라고 조언했다. 마네라는 여기에 재무·법무·고객지원 등 각 부서를 하나씩 짚어 가장 값어치 있는 지점부터 시작하는 체계적 접근을 더했다.

전통 기업이 가장 먼저 바꿔야 할 것으로 베인은 뜻밖에도 온보딩을 꼽았다. 사내 문서와 협업 도구에 AI를 연결해 두면 신입이 정보를 빨리 찾을 뿐 아니라, 질문이 생겼을 때 가장 먼저 AI를 찾는 습관이 몸에 밴다는 것이다. 마네라는 어느 조직에나 존재하는 소수의 얼리어답터를 사내 챔피언으로 세워 해커톤과 시연을 맡기는 방법을 권했다.

OpenAI 자체의 운영 방식을 묻자 베인은 '우리 도구로 우리 도구를 만든다'고 답했다. 2년 전에는 15개월에 한 번 나오던 모델이 이제 6주에 한 번 나오는 이유가 여기 있으며, 그는 이것을 재귀적 자기개선의 작은 불꽃이 보이는 단계라고 표현했다. 동시에 그는 자신들도 완벽하지 않으며 다른 회사들이 뒤처졌다는 불안에 빠질 필요는 없다고 덧붙였다. 마네라는 하나의 큰 변화가 아니라 수천 개의 작은 활용이 복리로 쌓여 조직 전체의 반복 속도가 빨라지는 것이라고 정리했다.

주요 인사이트

• 조직 구조 변화에 대해 마네라는 팀이 작아지고 조직이 평평해지는 흐름을 짚었다. 관리자 한 명에 직속 8명이 아니라 30~40명인 스타트업이 늘고 있는데, 중간관리자가 하던 보고 취합과 정보 정리를 도구가 대신하기 때문이라는 설명이다.
• 베인은 제품팀과 엔지니어링팀의 경계가 흐려지는 점을 흥미로운 변화로 꼽는다. 제품 담당자가 직접 v1을 만들고 엔지니어가 설계 결정을 내리면서, 역할 구분보다 서로 아이디어를 주고받는 밀도가 중요해진다는 것이다.
• AI 제품을 만드는 스타트업일수록 고객사에 상주하며 함께 개선하는 포워드 디플로이드 엔지니어 조직을 예전보다 훨씬 이른 단계에 꾸린다. 고객을 이해하는 능력과 평가 지표를 만들어 개선을 반복하는 능력이 같은 사람 안에 있어야 하기 때문이다.
• 교육에 대해 마네라는 의외로 보수적이다. 코드를 대신 써 주는 도구가 있어도 컴퓨터의 작동 원리, 프로그래밍 언어의 개념, 알고리즘 뒤의 수학 같은 기초는 여전히 효과적인 시스템 설계자가 되는 데 필요하다고 말한다.
• 베인은 프롬프트가 잘 안 먹힌다며 찾아오는 팀의 문제가 대개 의사소통 문제라고 지적한다. 자기 분야의 전문가일수록 머릿속 지식과 함께 읽기 때문에, 정작 프롬프트에는 무엇을 해야 하는지 적혀 있지 않다는 것이다.
• 그는 논리와 마찬가지로 의사소통도 사람 대 사람에만 국한되지 않는 보편적 역량이며, 진솔한 관계를 만드는 능력은 앞으로 10~15년에도 계속 앞서게 해 줄 것이라고 말한다.
• 마지막 조언은 '열정적인 만지작거림'이다. 새 모델뿐 아니라 새로 나온 제품을 직접 내려받아 써 보는 습관, 그리고 2024년에 한 번 써 보고 안 된다고 판단한 채 멈춰 있는 태도를 경계하라는 것이다.

자주 묻는 질문

관련 AI 소식