자동화된 AI 연구와 재귀적 자기개선: 연구 루프 여섯 단계로 읽는 이번 주의 신호

핵심 메시지

• 연구는 제안, 구현, 실행, 검증, 학습, 선택이라는 여섯 단계를 도는 반복 작업으로 볼 수 있다.
• 앤스로픽은 자사 코드베이스에 병합되는 코드의 80% 이상이 모델이 작성한 것이라고 밝혔고, 이는 구현 단계가 더는 사람만의 자리가 아님을 보여준다.
• 리커시브가 공개한 시스템은 루프 전체를 돌며 다음 실험까지 스스로 고르고, 학습 속도와 커널 최적화에서 측정 가능한 개선을 냈다.
• 자동화는 검증이 쉬운 영역부터 몰리기 때문에, 속도와 비용은 빠르게 좋아지고 안전과 이해는 사람 속도에 머무는 비대칭이 생긴다.
• 제안·구현·실행이 자동화될수록 힘은 검증 단계, 즉 평가 기준을 쓰는 쪽으로 쏠린다.

쉽게 이해하기

튜링 포스트의 이 영상은 한 주에 공개된 두 건의 자료를 묶어 자동화된 AI 연구와 재귀적 자기개선을 이야기한다. 진행자는 먼저 연구라는 활동에서 낭만을 걷어내면 남는 것은 반복되는 루프라고 정리한다. 아이디어를 제안하고, 구현하고, 실험을 돌리고, 결과를 검증하고, 거기서 배우고, 다음에 무엇을 할지 고른다. 과학의 대부분은 번뜩이는 순간이 아니라 이 루프를 수천 번 도는 일이며, 지금까지는 모든 자리에 사람이 앉아 있었다는 것이다.

첫 번째 자료는 앤스로픽이 낸 'When AI builds itself'라는 글이다. 진행자는 제목은 요란해도 내용은 조심스럽다고 평가한다. 재귀적 자기개선이 도래했다거나 불가피하다고 주장하지 않고, 다만 2026년 5월 기준으로 자사 코드베이스에 병합된 코드의 80% 이상이 클로드가 작성한 것이라는 구체적 숫자를 제시한다. 코드 분량이 곧 연구 진척은 아니지만, 사람의 역할이 한 줄씩 쓰는 일에서 명세하고 검토하고 결정하는 일로 옮겨 가고 있다는 신호로 읽힌다.

두 번째는 올해 5월 설립돼 46억 5천만 달러 가치로 평가받는 리커시브가 낸 'First Steps Toward Automated AI Research'다. 이 시스템은 여러 연구 갈래를 오래 유지하면서 이전 실험의 맥락을 이어 가고, 유망한 가지를 결합하며, 결과를 진짜 진전으로 인정하기 전에 보상 해킹 여부를 점검한다. 실험 결과로는 커뮤니티 최고 기록보다 약 30% 빠르게 같은 품질에 도달한 학습 레시피, 79.7초에서 77.5초로 줄인 학습 시간, 이론적 한계에 더 가까워진 GPU 커널 성능이 제시된다.

진행자는 여기서 한 가지 불편한 질문을 던진다. 왜 하필 학습 속도와 커널이었을까. 답은 검증 단계에 있다. 목표가 명확하고, 실험이 몇 분 안에 끝나며, 지표가 견고하고, 평가자를 편법에 강하게 만들 수 있는 과제들이라는 공통점이 있다. 그래서 자동화는 모든 곳에 동시에 오지 않고 한쪽으로 기울어 도착한다. 검증하기 쉬운 능력 쪽은 노동력이 복리로 불어나는데, 안전이나 해석처럼 검증이 어려운 쪽은 그대로 사람 속도에 머문다는 것이다.

마지막으로 같은 주에 벌어진 논란이 이 이야기와 어떻게 이어지는지 설명한다. 프런티어 모델 개발과 관련한 질의에 대해 안전장치가 모델 성능을 알리지 않은 채 떨어뜨릴 수 있었던 정책이 연구자들의 반발을 샀고, 회사는 잘못된 절충이었다고 인정하며 안전장치를 눈에 보이게 만들겠다고 밝혔다. 진행자는 이것이 규제 자체에 대한 반발이 아니라, 남의 평가자가 내 실험 안에서 조용히 돌아가고 있었다는 사실에 대한 반발이었다고 해석한다.

주요 인사이트

• 연구 루프를 여섯 단계로 쪼개 놓고 보면 '어디까지 자동화됐는가'를 감이 아니라 자리별로 확인할 수 있다. 구현은 넘어갔고, 제안과 선택은 아직 사람 쪽에 있다는 정리가 논의를 구체적으로 만든다.
• 결과의 크기보다 성질이 중요하다. 30% 빠른 학습 레시피 자체는 세상을 바꾸지 않지만, 측정 가능하고 재현 가능하다는 점이 과학적으로는 결정적이라고 진행자는 강조한다.
• 능력이 이해를 앞지르는 일은 누군가의 잘못된 결정이 아니라 어느 루프가 먼저 닫히느냐로 발생할 수 있다. 검증 가능성의 차이가 곧 발전 속도의 차이가 된다.
• 자동화된 연구에서 취향은 더 이상 분위기가 아니라 산출물이 된다. 무엇을 좋은 결과로 볼지 정의한 평가 기준이 그 취향을 문서로 못 박고 강제하기 때문이다.
• AI가 AI 연구를 가속하기 시작하면 최고 성능 모델에 대한 접근은 제품에 대한 접근이 아니라 가속 자체에 대한 접근이 된다. 누가 무엇을 얼마나 쓸 수 있는지가 제품 정책이 아니라 권한의 문제로 바뀐다.

자주 묻는 질문

관련 AI 소식