LLM 진화 탐색으로 우주론 알고리즘 개선 — 스탠퍼드 물리·AI 학회 매드이볼브 발표

핵심 메시지

• 우주론 데이터 분석은 수 테라바이트의 관측을 몇 개의 물리 파라미터로 압축하는 과정이며, 그 품질은 알고리즘 설계에 달려 있다.
• 매드이볼브는 대형언어모델을 변이 연산자로 삼아 알고리즘 코드를 반복 개선하고, 점수를 매겨 데이터베이스에 쌓는 진화 탐색 방식이다.
• 물리 알고리즘의 자유 파라미터가 잘못 조정되면 좋은 알고리즘도 탈락하기 때문에, 평가 직전에 JAX 기울기와 Adam으로 파라미터를 최적화하는 단계를 추가했다.
• 세 가지 우주론 과제 모두에서 사람이 만든 기준 알고리즘보다 나은 결과가 나왔고, 신경망과 달리 결과를 사람이 읽고 이해할 수 있었다.
• 출발점을 더 나은 사람 알고리즘으로 잡은 쪽이 끝까지 앞섰다는 점에서, 사람의 휴리스틱은 여전히 탐색의 질을 좌우한다.

쉽게 이해하기

2026년 스탠퍼드 물리·AI 학회의 짧은 발표에서 샹후이 창은 우주론 알고리즘을 대형언어모델로 진화시키는 코드베이스 매드이볼브를 소개했다. 출발점은 우주론 데이터 파이프라인의 구조다. 망원경과 위성이 만들어 내는 원시 스펙트럼은 수 테라바이트에 이르고, 이를 좌표계 위에 올려 수 기가바이트로 줄인 뒤, 관심 있는 물리량에 민감한 통계량을 뽑아 최종적으로 몇 개의 파라미터를 추론한다.

결국 전체 과정은 거대한 데이터 압축이다. 문제는 이를 정확하면서도 정밀하게 해내는 일이다. 계통 오차를 피하는 정확도와 테라바이트 안에서 정보를 최대한 끌어내는 정밀도가 모두 필요한데, 이는 파이프라인을 얼마나 잘 설계했는가에 달려 있다. 지금까지 그 일은 대학원생과 박사후연구원의 몫이었지만, 관측 데이터가 늘고 비선형 소규모 구조를 다뤄야 하면서 파이프라인은 점점 복잡해졌다.

발표자는 구글의 펀서치와 알파이볼브를 선행 연구로 들었다. 부모 프로그램을 고르고, 더 나은 방법을 요청하는 프롬프트를 만들고, 나온 코드를 평가해 점수와 함께 데이터베이스에 넣고, 다시 반복하는 네 단계 루프다. 여기에 매드이볼브가 더한 것이 파라미터 조정 단계다. 가우시안 필터의 평활 척도처럼 물리 알고리즘에는 자유 파라미터가 있고, 잘못 맞추면 좋은 알고리즘도 나쁜 점수를 받아 탐색에서 사라진다.

그래서 이들은 알고리즘을 JAX로 작성하도록 요구해 손실 함수의 기울기를 구하고, Adam으로 자유 파라미터를 조정한 뒤에 평가한다. 10~50회 반복이면 수렴한다고 한다. 이렇게 하면 모든 후보가 자기 최고 성능 상태에서 겨루기 때문에 평가가 공정해진다. 적용한 과제는 바리온 음향 진동 재구성, 21cm 전경 재구성, 바리온 장 모델링 세 가지로, 물리 과정은 다르지만 관측된 장에서 그 아래 숨은 장을 추정한다는 점이 같다.

결과는 세 과제 모두 개선이었고, 시작점은 장난감 모델이 아니라 실제로 쓰이는 사람의 알고리즘이었다. 수백에서 1,000세대 정도에서 뚜렷한 향상이 나타났고, 비용은 세대당 30센트 미만, 과제 하나당 수십에서 수백 달러 수준이었다. 다만 발표자는 표준 알고리즘에서 출발한 탐색이 1,000세대 뒤 0.924에 도달했지만 더 나은 사람 알고리즘에서 출발한 쪽을 따라잡지 못했다는 점을 강조했다. 사람의 알고리즘이 여전히 초기 상태와 발상을 제공한다는 뜻이다.

주요 인사이트

• 진화 탐색의 성패는 모델 성능만이 아니라 평가 방식에 달려 있다. 파라미터를 맞추지 않은 채 채점하면 좋은 아이디어가 나쁜 점수 때문에 버려진다.
• 발표자는 발견된 알고리즘이 신경망과 달리 사람이 읽을 수 있는 코드라는 점을 장점으로 꼽았다. 계통 오차를 통제해야 하는 분야에서 해석 가능성은 성능만큼 중요한 요구다.
• 출발 알고리즘의 품질이 최종 성능의 상한을 사실상 결정했다. 자동 탐색은 사람의 지식을 대체하기보다 그 위에서 증폭되는 도구에 가깝다.
• 비용 구조가 바뀌면 연구 방식도 바뀐다. 과제당 수백 달러 수준이면 예전에는 시도하기 어려웠던 알고리즘 탐색을 폭넓게 반복해 볼 수 있다.
• 질의응답에서 발표자는 에이전트 설계에서 프롬프트만큼 중요한 요소로 평가 지표를 꼽았다. 무엇을 점수로 삼느냐가 탐색이 향하는 방향을 정한다.

자주 묻는 질문

관련 AI 소식