YC 스타트업 스쿨 2026 정리: 제프 딘 창업, 개리 탄의 퍼스널 AGI, 시스템 프롬프트 80% 삭제

핵심 메시지

• 제프 딘은 구글을 떠나 Discovery Loop을 창업하며, 모델이 20% 정도 해내는 일이 아니라 아예 1%도 못 하는 일을 하라고 조언했다.
• 그가 꼽은 가장 중요한 투자는 평가 도구를 빨리 만드는 것이다. 대부분의 병목은 생성이 아니라 검증에 있기 때문이다.
• 개리 탄은 자기 컨텍스트를 직접 소유하라며 22만 페이지 규모의 개인 지식 베이스를 운영한 사례를 소개했다.
• 보리스 체르니는 정반대로 클로드 코드의 시스템 프롬프트를 80% 이상 삭제했다고 밝혔다. 모델이 못 하던 것을 보완하던 지시들이 이제는 오히려 방해가 되기 때문이다.
• 샘 올트먼은 X에서 팔로워를 모으는 가장 쉬운 방법이 남이 만든 것을 깎아내리는 일이며, 그것이 영혼을 좀먹는다고 경고했다.

쉽게 이해하기

구글의 거의 초기 멤버였고 맵리듀스와 TPU, 텐서플로를 만든 제프 딘이 회사를 떠나 Discovery Loop이라는 스타트업을 시작한다. 공동창업자 네 명의 이력만 모아 놓은 피치 덱 한 페이지에 구글 검색과 광고, 번역, 제미나이, TPU, 빅테이블, 시퀀스 투 시퀀스, 지식 증류, MoE, 알파폴드가 줄줄이 등장한다. 60년대생이 이 나이에 창업에 나선다는 점 자체가 흔치 않은 장면이다.

그가 스타트업을 꿈꾸는 청중에게 남긴 조언은 단순하다. 프론티어 모델로 아이디어를 먼저 직접 테스트해보고, 모델이 어중간하게 20% 정도 해내는 영역이 아니라 아예 못 하는 영역을 잡으라는 것이다. 그리고 무엇을 하든 평가 도구를 빠르게 만드는 데 반드시 투자하라고 강조했다. 대부분의 병목은 무언가를 만들어내는 단계가 아니라 그것이 맞는지 검증하는 단계에 있다는 이유에서다.

제프 딘이 소개한 사고 실험도 인상적이다. 우리가 만든 모든 컴퓨팅 시스템은 트랜지스터가 절대 틀리지 않는다는 가정 위에 50년 넘게 쌓여 있다. 그런데 만약 트랜지스터가 하루에 스무 번씩 오류를 낸다면 컴퓨터는 지금과 같은 모습일까. 너무 당연해서 의심조차 하지 않는 전제를 한 번씩 뒤집어보는 것이, 남들이 못 찾은 것을 찾는 방법이라는 이야기다. 참고로 지식 증류 논문은 2014년 당시 의미 있는 임팩트가 없을 것 같다는 평가와 함께 거절당했다.

이번 정리의 가장 흥미로운 대목은 서로 정반대로 들리는 두 조언이다. YC CEO 개리 탄은 "네 컨텍스트를 네가 소유하라"고 말한다. 25년치 이메일과 회의 결정을 마크다운으로 옮기고, 자기가 일하는 방식을 스킬로 계속 쌓아 22만 페이지짜리 개인 지식 베이스를 굴린다. 1주 차에는 장난감 같지만 12주 차가 되면 남들이 빌려달라고 하는 도구가 된다는 것이다. 실제로 그는 희귀 질환을 가진 아이를 둔 지인이 관련 정보를 전부 모아, 의사가 아이디어를 내면 그 자리에서 논문과 과거 임상 결과를 찾아주는 개인용 시스템을 만든 사례를 들었다.

반면 보리스 체르니는 클로드 코드의 시스템 프롬프트를 80% 이상 지웠다고 밝혔다. 원래 시스템 프롬프트에는 모델이 잘 못하는 것을 보완하는 지시가 잔뜩 들어 있었는데, 모델이 그 부분까지 잘하게 되자 그 지시들이 오히려 성능을 떨어뜨렸다는 것이다. 6개월마다 지침 파일과 스킬을 지우라는 조언도 같은 맥락이다. 두 조언의 공통 전제는 하나다. 모델은 계속 좋아진다. 다만 그에 대비하는 전략이 갈릴 뿐이다.

샘 올트먼 세션에서는 2005년 YC 1기 여덟 팀에 레딧과 자신의 회사가 함께 있었다는 이야기, 폴 그레이엄의 집에서 저녁을 먹으며 매주 피드백을 받던 시절의 뒷이야기가 나왔다. 학위와 졸업장에 대해서는 연사들이 대체로 일관된 태도를 보였다. 졸업장은 실제 가치를 측정하기 어려울 때 쓰던 보조 지표일 뿐이며, 이제 사람의 역량을 직접 평가하기가 점점 쉬워지고 있다는 것이다. 웨이모 측은 여기에 현실적인 균형추를 놓았다. 데모는 잘 되는 1%만 골라 보여주는 것이고, 그 데모에서 실제 서비스까지는 10~15년이 걸렸다.

주요 인사이트

• "모델이 1%도 못 하는 일을 하라"는 조언과 "데모에서 서비스까지 10~15년"이라는 웨이모의 경험은 함께 읽어야 한다. 아무도 못 하는 영역을 고른다는 것은 그만큼 긴 가시밭길을 각오한다는 뜻이다.
• 컨텍스트를 쌓으라는 조언과 지우라는 조언은 대상이 다르다. 개리 탄이 말하는 것은 나만 가진 개인화된 맥락이고, 보리스 체르니가 지운 것은 모델의 옛 약점을 메우려던 임시 지시다.
• 평가 도구가 있으면 이 논쟁은 해소된다. 지우고 다시 만들어도 될지를 판단할 수 있기 때문이다. 앤트로픽이 인수한 Bun을 러스트로 통째로 재작성하는 작업이 잘 굴러간 이유도 같은 입력에 같은 출력을 비교하면 되는, 평가가 쉬운 문제였기 때문이다.
• 미국 스타트업 씬에서 X는 이력서의 보조 지표처럼 쓰이고 있다. YC 지원서에도 X 계정 입력란이 있고, 그래서 실체 없는 회사를 만들어 창업자인 척 활동하는 이른바 LARP 문화까지 생겼다. 개리 탄은 이를 하지 말라고 못 박았다.
• 한국어 사용자에게 실질적인 대목도 있다. 모델이 distillation을 굳이 "증류"로 옮기는 식의 억지 번역체 때문에 낯선 분야를 배울 때 용어가 어색해지는 경우가 잦다는 지적이다.

자주 묻는 질문

관련 AI 소식