구글 딥마인드 알파이볼브(AlphaEvolve) 원리: 진화 루프로 새 알고리즘 발견하기

핵심 메시지

• 알파이볼브는 LLM이 코드에 작은 수정(diff)을 제안하고, 사용자가 준 평가 함수로 점수를 매겨 우수한 후보를 골라 다시 진화시키는 루프로 작동한다.
• 사용자는 시작 프로그램, 성능을 점수화하는 평가 코드, 수정 허용 영역 표시 세 가지만 제공하면 되고, 나머지 탐색은 시스템이 맡는다.
• 국소 최적에 갇히지 않도록 MAP-Elites와 섬(island) 기반 개체군 전략으로 다양성을 유지하며 활용과 탐색의 균형을 맞춘다.
• 4×4 복소 행렬 곱셈을 48회 스칼라 곱으로 해내 반세기 만에 슈트라센 알고리즘을 넘어섰고, 구글 데이터센터 스케줄링·TPU 설계·제미나이 학습 시간 단축에도 기여했다.

쉽게 이해하기

알파이볼브(AlphaEvolve)는 문제를 직접 푸는 대신, 대략의 아이디어에서 출발해 AI가 해법을 시간에 걸쳐 '진화'시키게 하는 구글 딥마인드의 시스템이다. 코드 생성, 진화적 전략, LLM을 결합해 새로운 알고리즘을 발견하고 실제 인프라를 최적화한다. 기본 코드베이스에서 시작해 LLM이 작은 수정을 제안하고, 사용자가 제공한 평가 코드로 그 수정의 성능을 시험한 뒤, 가장 나은 후보를 바탕으로 다시 수정을 이어간다.

핵심은 진화 루프다. 사용자는 세 가지를 제공한다. 첫째, 시작 프로그램인데 아주 기초적이거나 심지어 틀려도 되며 실행만 되면 된다(상수를 반환하는 골격이어도 무방). 둘째, 프로그램의 성능에 수치 점수를 주는 평가 함수. 셋째, 알파이볼브가 고쳐도 되는 코드 영역을 표시하는 마커다. 그다음부터는 사람이 손을 떼고, 제미나이 플래시(빠르고 다양한 아이디어)와 제미나이 프로(더 신중하고 고품질인 제안) 같은 여러 LLM의 앙상블이 각자 수정안을 내놓는다. 수정된 프로그램을 실행·채점해 우수한 것을 아이디어 데이터베이스에 넣고, 그 승자를 다시 프롬프트에 담아 루프를 반복한다.

단순히 최고 점수만 좇으면 국소 최적(막다른 길)에 갇혀 더 나은 해법을 놓칠 수 있다. 그래서 두 가지 전략이 쓰인다. MAP-Elites는 하나의 해에서 출발하는 대신 무작위의 다양한 해에서 시작해 서로 다른 행동 영역별로 우수 개체(엘리트)를 보존하고, 이 다양한 엘리트들을 조합해 새 해를 만든다. 섬 기반 방법은 개체군을 여러 섬으로 나눠 한동안 격리한 채 각자 특화시키고, 가끔 다른 섬의 해를 받아들이는 교차 수분으로 막힌 섬이 국소 최적을 탈출하게 돕는다. 이렇게 활용과 탐색의 균형을 잡는 것이 진짜 새로운 알고리즘 발견의 관건이다.

성과는 뚜렷하다. 알파이볼브는 4×4 복소값 행렬을 단 48회의 스칼라 곱으로 곱하는 새 방법을 찾아, 반세기 넘게 개선되지 않던 슈트라센 알고리즘을 넘어섰다. 코드로 정식화한 50여 개의 미해결 수학 문제 중 75%에서 기존 최고 해법과 대등했고, 20%에서는 최소 겹침·11차원 키싱 넘버 같은 문제에서 최신 기록을 경신했다. 엔지니어링에서도 구글 데이터센터 스케줄링을 개선하고 TPU 회로 설계를 효율화했으며, 트랜스포머의 어텐션을 빠르게 해 제미나이 자체의 학습 시간을 1% 줄였다. 다만 결과를 자동으로 측정할 수 있는 문제에서만 작동하고, 문제를 정의하고 평가 함수를 설계하는 일은 여전히 사람의 몫이다.

주요 인사이트

• 알파이볼브의 힘은 '기억하는 진화'에 있다. 과거에 통한 해를 데이터베이스에 남기고 그것으로 더 나은 프롬프트를 만들어, 무작정 변형하는 것보다 훨씬 효율적으로 해를 찾는다.
• 다양성 유지가 성능을 좌우한다. MAP-Elites와 섬 기반 전략은 국소 최적을 피하고 넓은 해 공간을 탐색하게 해, 돌파구가 예상 밖에서 나오도록 만든다.
• 반세기 동안 정체됐던 행렬 곱셈 기록을 깬 것은 상징적이다. 이미 고도로 최적화된 문제조차 개선 여지가 있음을 보여준다.
• 제미나이 학습 시간 1% 단축은 작아 보여도, 이미 최적화된 대상에서 얻은 개선이라는 점과 앞으로의 여지를 함께 시사한다.
• 알파이볼브는 과학자를 대체하지 않고 '증강'한다. 문제 정의, 흥미로운 지점 선정, 코드 골격 설계, 평가 함수 작성은 여전히 사람이 해야 한다.
• 이전 프로젝트 '펀서치'가 10~20줄짜리 단일 함수만 진화시키고 수백만 샘플이 필요했던 것과 달리, 알파이볼브는 전체 코드베이스를 언어 불문 편집하고 최신 모델로 수천 샘플만에 해를 찾는다.

자주 묻는 질문

관련 AI 소식