다윈 괴델 머신 정리: 스스로 코드를 고쳐 진화하는 자기개선 AI 에이전트의 구조와 성과

핵심 메시지

• 다윈 괴델 머신은 AI 에이전트가 자기 자신의 코드 저장소를 입력으로 받아 새 버전을 만들어내는 방식으로, 사람이 설계하던 개선 과정을 자동화하려는 시도다.
• 2003년 제안된 원래의 괴델 머신은 '새 버전이 더 낫다'는 것을 수학적으로 증명해야만 자기 수정을 허용했기 때문에 실제 구현이 어려웠다.
• 다윈 괴델 머신은 증명 대신 생물 진화를 본떠, 성능이 검증된 에이전트들을 계보 형태의 보관소에 쌓아두고 그중 하나를 확률적으로 골라 다음 세대를 만든다.
• 에이전트는 코딩 실력만이 아니라 '자기 자신을 수정하는 능력'까지 함께 진화시키며, 이 부분을 고정했을 때 성능 향상 폭이 눈에 띄게 줄었다.
• 전체 벤치마크 기준으로 폴리글롯 점수는 14.2%에서 30.7%로, SWE-bench는 20%에서 50% 수준으로 올랐다.

쉽게 이해하기

오늘날 대부분의 AI 시스템은 여전히 사람이 구조와 학습 과정을 설계한다. 사카나 AI와 브리티시컬럼비아대 연구진이 내놓은 논문 '다윈 괴델 머신: 자기개선 에이전트의 열린 진화'는 그 설계 자체를 AI에게 맡기면 어떻게 되는지를 실험한다. 연구진은 언젠가 이런 틀이 대규모 언어모델의 학습 과정과 구조까지 바꿀 수 있다고 보지만, 그러려면 막대한 연산 자원이 필요하다. 그래서 이 논문은 범위를 좁혀, 고정된 언어모델을 사용하는 코딩 에이전트의 자기 진화에 집중한다.

이름의 절반인 '괴델 머신'은 2003년 위르겐 슈미트후버가 제안한 이론적 개념에서 왔다. 자기 코드를 다시 쓸 수 있지만, 새 버전이 더 낫다는 것을 수학적으로 증명할 수 있을 때만 실제로 수정하는 시스템이다. 개념은 매력적이지만 형식 증명에 의존하는 탓에 현실에서 구현하기가 어렵다. 나머지 절반인 '다윈'은 이 증명 요구를 생물 진화식 경험적 접근으로 바꿨다는 뜻이다.

작동 방식의 핵심은 계보 트리 형태의 보관소다. 최초의 에이전트가 뿌리 노드가 되고, 자기 코드를 고칠 때마다 가지가 하나씩 뻗는다. 매 진화 단계에서 시스템은 보관소에서 에이전트 하나를 고르는데, 반드시 가장 성능이 좋은 것을 고르지는 않는다. 모든 에이전트가 0이 아닌 선택 확률을 가지되 성능이 좋을수록 확률이 높고, 이미 자식을 많이 만든 노드는 확률이 낮아진다. 한 갈래로만 파고들다 지역 최적해에 갇히는 것을 막기 위한 장치다.

선택된 에이전트는 자기 코드 저장소와 함께 '스스로를 개선하라'는 지시를 받아 새 버전을 만든다. 여기서 중요한 점은 개선 대상이 코딩 실력만이 아니라는 것이다. 자기 자신을 수정하는 역할을 맡은 부분도 매 단계 함께 진화한다. 새로 만들어진 에이전트는 먼저 정상적으로 빌드되고 소규모 과제에서 자기 개선 능력을 보여야 하며, 실패하면 그대로 폐기된다. 통과한 경우에만 벤치마크 점수와 함께 보관소에 들어간다.

평가에는 실제 소프트웨어 엔지니어링 과제 모음인 SWE-bench Verified와, 여러 프로그래밍 언어를 다루는 폴리글롯이 쓰였다. 두 경우 모두 클로드 3.5 소네트를 기반으로 80회 진화를 돌렸다. 결과는 열린 진화의 가치를 뚜렷하게 보여준다. 보관소 없이 하나의 에이전트만 개선이 멈출 때까지 다듬은 대조군, 그리고 자기 개선 모듈을 고정한 대조군 모두 본래 방식보다 성능이 낮았다. 다만 그래프의 수치는 벤치마크 전체가 아니라 표본에서 얻은 값이며, 전체 벤치마크로는 최초 에이전트와 최고 에이전트만 측정했다는 단서가 붙는다.

주요 인사이트

• '가장 좋은 것만 개선한다'는 탐욕적 전략을 버린 것이 성능 차이의 핵심이었다. 당장은 성적이 낮은 갈래가 나중에 결정적인 기술을 키워내는 경우가 실제로 관찰됐다.
• 논문이 공개한 계보 트리에서, 최고 성능 에이전트로 이어진 경로는 4회차에서 다른 갈래보다 뒤처져 있었다. 그러나 그 갈래는 이후 파일 전체를 갈아치우는 대신 문자열 치환으로 수정하는 기술을 익혔고, 이것이 최종 승자를 만들어냈다.
• 자기 개선 능력 자체를 진화 대상에 포함하느냐가 별도의 성능 격차를 만들었다. 도구를 잘 쓰는 것과 도구를 고칠 줄 아는 것이 다른 능력임을 보여주는 결과다.
• 계보 위 각 노드에서 새 기능이 하나씩 등장했다. 문맥 한계에 다다르면 자동으로 요약하는 능력처럼, 사람이 별도로 설계하지 않은 실용적 개선이 진화 과정에서 나왔다.
• 연산 비용 때문에 대부분의 평가가 벤치마크 표본으로 이뤄졌다는 점은 이 접근의 현실적 제약을 드러낸다. 자기 진화 자체가 곧 대량의 평가 실행을 뜻하기 때문이다.

자주 묻는 질문

관련 AI 소식