AI 과학 발견 에이전트 SAGA, 목표 함수까지 스스로 설계하는 이중 루프 구조 해설

핵심 메시지

• 발표자는 '언어모델이 과학을 이해하는가'라는 모호한 질문을, 언어모델이 가설을 제안하고 검증기가 채점하는 반복 탐색 문제로 바꿔 답을 찾았다.
• GPT-4와 단순한 진화 알고리즘을 결합한 것만으로, 25개 알고리즘이 경쟁해 온 분자 설계 벤치마크에서 최고 성적을 약 30% 끌어올렸다.
• SAGA는 목표를 다시 정하는 바깥 루프와 해를 최적화하는 안쪽 루프로 나뉘어, 사람이 고정해 주던 목표 함수 자체를 스스로 수정한다.
• 나노바디 설계에서는 개별 계산 점수들이 결합 여부를 가르지 못한 반면, SAGA가 조합해 낸 복합 점수만 실험실 결과와 통계적으로 유의한 차이를 보였다.
• 관측되지 않는 차원이 남아 있는 한 과학 발견은 순수한 탐색 문제가 아니며, 해의 다양성 확보가 점수 해킹을 막는 현실적 장치가 된다.

쉽게 이해하기

코넬대에서 박사 과정을 마친 발표자는 지난 2년간 붙들어 온 두 가지 질문으로 강연을 연다. 대형 언어모델은 과학을 이해하는가, 그리고 이해한다면 그것을 발견 가속에 어떻게 써야 하는가다. 그는 '이해'라는 말이 너무 모호하다고 보고, 이를 '고정된 예산 안에서 가설을 반복해서 제안하고 검증받아 좋은 답에 도달할 수 있는가'라는 계산 문제로 다시 정의했다.

이 틀에서 언어모델은 사람처럼 대접받는 존재가 아니라 확률 분포에서 후보를 뽑아 주는 제안기다. 언어모델이 가설을 여러 개 만들고, 검증기가 점수를 매기고, 좋은 것만 남겨 다시 돌리는 단순한 진화 알고리즘이다. 이 구성만으로 분자 설계 벤치마크에서는 오랫동안 조금씩 개선되던 최고 점수를 약 30% 끌어올렸고, 결정 구조 설계에서는 사전학습 생성 모델보다 안정한 구조를 두 배 비율로 찾아냈다. 역합성 경로 탐색에서는 몬테카를로 트리 탐색 같은 전문 알고리즘과 대등하거나 조금 나은 수준이었다.

다만 이 성공에는 전제가 있다. 사람이 '무엇을 좋은 답으로 볼지'를 검증기 형태로 미리 정해 줬다는 점이다. 발표자는 실제 연구가 그렇게 돌아가지 않는다고 지적한다. 사람은 결과를 보고 목표를 바꾸고, 검증기를 속이는 이상한 해를 발견하면 제약을 더하고, 최적화가 수렴하지 않으면 코드를 고친다. 이 바깥 루프까지 자동화한 것이 SAGA로, 계획·구현·최적화·분석 네 역할의 에이전트가 돌아가며 목표를 다시 쓴다.

항생제 설계 사례에서 SAGA는 첫 회차에 약물성 점수가 빠져 있음을 스스로 알아채고 추가했고, 다음 회차에서는 항균 활성과 약물성이 음의 상관을 보인다는 것을 코드로 확인해 균형을 다시 잡았다. 이어 독성 우려가 있는 작용기와 합성이 어려운 구조에 벌점을 붙였다. 영구 자석 소재 설계에서도 자성과 공급망 위험이라는 두 목표만 주면 다른 중요한 물성이 무너진다는 점을 확인하고, 희소 원소에만 비용을 매기는 새 점수를 만들어 냈다.

강연의 마지막은 더 근본적인 물음이다. 발표자는 자연과학에는 우리가 아예 측정할 수 없거나 아주 느리게만 측정되는 차원이 빙산 아래처럼 깔려 있다고 본다. 관측 가능한 지표만 최적화하면 그 지표를 해킹한 해가 나오고, 실제 검증 단계에서 무너진다. 그래서 그는 해의 다양성을 관측 불가능성에 대한 보험으로 보고, 병렬 템퍼링 방식으로 진화 알고리즘의 조기 수렴을 막는 후속 연구를 함께 소개한다.

주요 인사이트

• 언어모델의 과학 능력을 재는 방식이 질문·답변형 시험에서 '검증기를 낀 반복 탐색'으로 옮겨 가면, 같은 모델이라도 평가 결과가 달라진다. 질의응답 평가에서 뒤처지던 모델이 탐색 과제에서는 평균 최상위를 기록하기도 했다.
• 여러 회사의 모델이 틀리는 문제가 서로 강하게 겹친다는 관찰은, 모델을 바꿔 가며 검증하는 방식이 생각보다 안전망이 되지 못한다는 뜻이다. 특히 화학과 물리에서 오답 패턴이 함께 움직였다.
• SAGA의 세 가지 자동화 모드(부조종·반자동·완전 자동)를 비교했을 때 소재 설계에서는 성능 차이가 거의 없었다. 사람이 개입한다고 늘 나아지지는 않으며, 도구를 잘 고르는 단계에서는 에이전트가 사람의 판단과 비슷한 선택을 했다.
• 발표자는 자율 실험실이 없어도 계산으로 검증 가능한 영역만으로 이미 발견 속도를 크게 높일 수 있다고 강조한다. 완전 자동화된 'AI 과학자'를 기다리기보다, 목표 설정 단계를 자동화하는 편이 지금 당장 효과가 크다는 주장이다.

자주 묻는 질문

관련 AI 소식