앤트로픽 재귀적 자기개선 보고서: AI가 AI를 만드는 시대의 의미

핵심 메시지

• 앤트로픽은 'AI가 AI를 만든다'는 보고서에서 재귀적 자기개선(RSI)이 다가오고 있으며 사회가 아직 준비되지 않았다고 경고한다.
• 보고서에 따르면 2026년 5월 기준 앤트로픽 코드베이스에 병합된 코드의 80% 이상을 이미 클로드가 작성한다.
• AI 에이전트가 자율적으로 수행할 수 있는 작업의 길이는 약 4개월마다 두 배로 늘고 있다(이전에는 약 7개월).
• 진행자 매튜 버먼은 '다 같이 개발 속도를 늦추자'는 앤트로픽의 제안을, 선두 주자가 던지는 자기 잇속 챙기기식 공포 마케팅이라고 비판한다.
• 코드 생산량은 약 8배 늘었지만 실제 생산성 향상은 약 4배에 그쳐, AI가 쓴 코드의 가치가 사람 코드보다 낮을 수 있다는 해석이 나온다.

쉽게 이해하기

이 영상에서 매튜 버먼은 앤트로픽의 에세이 "AI가 스스로를 만들 때: 재귀적 자기개선을 향한 진전과 그 함의"를 한 대목씩 짚어 분석한다. 보고서의 두 가지 핵심 주장은 '사회가 준비되지 않았다'와 '개발 속도를 늦춰야 한다'이다. 버먼은 이 주장이 업계 선두인 앤트로픽에게 지나치게 유리한, 자기 잇속을 챙기는 메시지라고 본다.

보고서는 인간이 AI 개발에서 점점 멀어지는 과정을 단계별 그래픽으로 보여준다. 개발자가 직접 코드를 쓰던 시절에서 챗봇과 대화하는 시대로, 다시 2025~2026년의 코딩 에이전트 시대로, 그리고 에이전트가 하위 에이전트와 작업자에게 일을 분배해 대규모로 병렬화하는 단계로 나아간다. 마지막에는 클로드가 클로드를 스스로 개선하는 '닫힌 고리'가 되고, 그 시점에 인간은 그림에서 사라지며 유일한 병목은 컴퓨트(연산 자원)만 남는다.

보고서가 제시한 수치는 가속의 강한 신호다. 2024년 3월 클로드 오퍼스 3는 사람이 약 4분 걸리는 작업을 처리했고, 1년 뒤 소넷 3.7은 약 90분, 다시 1년 뒤 오퍼스 4.6은 12시간짜리 작업을 다뤘다. 추세가 이어지면 2026년에는 며칠, 2027년에는 몇 주가 걸리는 작업도 가능해질 것으로 본다. 또한 기존 연구를 재현하는 능력(CORE-bench)은 2024년 약 20%에서 15개월 만에 거의 100%에 도달했다. 다만 '완전히 새로운 연구 아이디어를 처음으로 떠올리는' 능력은 아직 사람의 몫이며, 이것이 재귀적 자기개선에 빠진 핵심 재료라고 설명한다.

앤트로픽 내부 현황도 공개됐다. 2025년 2월 클로드 코드 출시 전 한 자릿수에 불과하던 AI 작성 코드 비중이 2026년 5월 80% 이상으로 치솟았다. 엔지니어 1인당 코드 생산량은 폭증했지만, 130명을 대상으로 한 2026년 3월 설문에서 응답자 중앙값은 AI로 약 4배 더 많은 결과를 냈다고 답해, 8배 늘어난 코드량과 4배의 체감 생산성 사이에 간극이 있음을 보여준다. 또한 앤트로픽은 공개하지 않은 내부 프런티어 모델 '미소스(Mythos)'를 1분기부터 사용해 왔고, 2026년 1월 9일에는 경쟁사 xAI의 자사 모델 접근을 차단했다. 코드 리뷰조차 클로드가 심판(judge) 역할을 맡는다.

보고서는 세 가지 미래를 제시한다. 첫째, 발전이 정체되더라도 이미 강력한 AI 역량이 사회 전반에 퍼져 큰 변화를 일으키는 '역량 과잉(capability overhang)'. 둘째, 효율이 복리로 누적되지만 인간이 연구 방향과 판단을 계속 맡아 100명 기업이 1만~10만 명의 일을 해내는 미래. 셋째, AI가 완전한 재귀적 자기개선에 도달해 스스로 후속 모델을 설계하고, 발전 속도가 오직 컴퓨트로만 결정되는 '지능 폭발'이다. 버먼은 이 지점에서 자본과 에너지를 쥔 쪽이 모든 것을 차지하는 '영구적 하층계급(permanent underclass)' 우려를 짚는다. 끝으로 보고서는 전 세계가 동시에 속도를 늦추는 일이 불가능하진 않지만, 훈련 실행은 미사일 격납고보다 숨기기 쉬워 검증이 매우 어렵다는 점을 인정한다.

주요 인사이트

• '실행'은 빠르게 자동화되는 반면 '아이디어와 취향(taste)'이 희소 자원이 된다 — AI 시대 가치의 무게중심이 이동하고 있다.
• 한 부분(코딩)을 가속하면 병목은 사라지지 않고 마케팅·세일즈·문서·배포 같은 다른 영역으로 옮겨간다.
• 사람이 'AI가 생성한 코드를 검토'하는 속도가 다음 병목이 되며, 이는 재귀적 자기개선의 속도를 인간의 인지능력에 묶어둔다.
• "생각은 위임할 수 있어도 이해는 위임할 수 없다"는 말처럼, 시스템에서 멀어질수록 이해를 유지하는 것이 정렬(alignment)의 관건이 된다.
• 선두 기업의 '속도 조절' 제안은 검증 불가능성 때문에 현실에서 작동하기 어렵다 — 모두가 멈췄는지 확인할 방법이 마땅치 않기 때문이다.

자주 묻는 질문

관련 AI 소식