AI2 오토디스커버리 발표 정리: 베이지안 서프라이즈 보상과 비선형 탐색으로 데이터에서 가설을 찾는 법

핵심 메시지

• 앨런 AI 연구소는 알츠하이머 뇌세포 데이터에서 자율 시스템이 원 연구진도 미처 보지 못한 형태의 가설을 찾아낸 사례로 발표를 연다.
• 발견을 기계학습 문제로 보면 가설을 만들어 내는 탐색과 데이터로 확인하는 검증, 두 축으로 나뉜다.
• '흥미로운가'를 언어 모델에 직접 물으면 답이 매번 달라진다. 흥미로움과 참신함은 기준점이 있어야 성립하는 상대적 개념이기 때문이다.
• 그래서 연구진은 실험 전후로 모델의 믿음이 얼마나 바뀌었는지를 재는 베이지안 서프라이즈를 자동 보상으로 삼았다.
• 탐색 방식 비교에서 가설을 계속 대화 맥락에 쌓아 가는 선형 방식은 오히려 무작위 반복 샘플링보다 나빴고, 트리 탐색 같은 비선형 방식이 확실히 앞섰다.

쉽게 이해하기

alphaXiv의 'AI for science' 강연 시리즈에 앨런 AI 연구소(AI2)의 선임 연구과학자가 나와 지난 2년간 진행한 자율 연구와 데이터 기반 발견 작업을 소개했다. 발표는 자매 기관인 앨런 연구소의 시애틀 알츠하이머 뇌세포 아틀라스 이야기로 시작하는데, 해당 연구진은 2024년 논문에서 병리가 심한 깊은 층에 특정 세포가 크게 늘어난다는 사실을 밝혀냈다. 연구팀이 같은 데이터셋에서 출발해 그 분석 흐름을 자율 시스템으로 재현해 보자, 시스템은 깊은 층에 세포가 얼마나 쌓였는지보다 표층 대비 심층의 비율이 질병을 더 잘 예측한다는 조금 다른 가설을 내놨다. 발표자는 신경과학자가 아니어서 판단을 미뤘지만 원 논문 저자에게 가져가자, 그 형태의 가설에 놀랐고 자신들의 데이터 분석 과정에서도 유용했을 것이라는 반응을 얻었다고 전한다.

발표는 발견을 두 부분으로 나눈다. 검증 가능한 가설을 만들어 내는 탐색과, 데이터로 돌아가 그 가설을 확인하는 검증이다. 1976년 뉴얼과 사이먼의 문제 해결 논의, 1979년 무렵의 자동 법칙 발견 시스템, 서로 연결된 적 없는 두 논문 사이의 고리를 찾는 스완슨 링킹까지, 자동 발견이라는 발상 자체는 오래됐다는 점도 짚는다.

AI2는 이 문제를 위해 아스타(Asta)라는 도구·에이전트·벤치마크 생태계를 만들어 왔고 전부 오픈소스로 공개한다. 목표가 주어진 데이터 분석은 데이터 보이저 에이전트가 맡는다. 다만 자체 벤치마크 결과에서는 일반적인 에이전트 스캐폴딩과 성능 차이가 거의 없었는데, 발표자는 이를 하네스보다 모델 자체 능력의 문제로 해석한다. 흔히 쓰이지 않는 과학 전용 파이썬 라이브러리를 정확히 불러 써야 하는 롱테일 과제에서 특히 약했다. 반대로 난도가 낮은 데이터 분석 과제에서는 대부분의 모델이 80%를 넘겨, 단순한 가설 검증은 이미 싸고 빠르게 자동화할 수 있다는 결론에 이른다.

진짜 어려운 쪽은 애초에 질문이 없을 때다. 대규모 데이터셋만 있고 무엇을 물어야 할지 모르는 상황에서 시스템이 스스로 가설 공간을 뒤지게 하려면 무엇을 보상으로 줄지 정해야 한다. 다양성만 요구하면 '소득은 항상 양수'처럼 서로 다르지만 아무 쓸모 없는 가설이 나온다. 흥미로움이나 효용을 모델에 직접 물으면 매번 다른 답이 돌아오는데, 발표자는 이를 모델의 일관성 문제가 아니라 과제 자체의 문제로 본다. 참신함이나 흥미로움은 무엇을 기준으로 삼느냐에 따라 달라지는 상대적 개념이라 질문이 성립하지 않는다는 것이다.

돌파구는 논문의 의외성이 학술적 영향력을 잘 예측한다는 2023년 메타 과학 연구와, 2005년에 제안된 베이지안 서프라이즈 개념이었다. 시스템은 가설을 만든 뒤 먼저 모델에게 이 진술이 참일 것 같은지 물어 사전 믿음을 받고, 실제로 파이썬 코드를 짜 통계 실험을 돌린 다음 같은 질문을 다시 던져 사후 믿음을 받는다. 두 믿음의 차이가 곧 보상이다. 믿음은 점 추정이 아니라 참일 가능성이 높음부터 판단 보류까지의 선택지를 30번 반복 표집해 분포로 만들고, 사전과 사후 분포 사이의 거리로 놀라움의 크기를 잰다.

주요 인사이트

• 이 방식의 기준점은 언어 모델 자신의 지식 경계다. 모델에게 놀라운 가설을 찾는다는 것은 곧 모델의 지식 경계를 넓히려는 시도이고, 그것이 사람에게도 놀랍기를 기대하는 구조다.
• 검증 결과 시스템이 놀랍다고 판단한 가설의 약 65%를 해당 데이터셋을 잘 아는 연구자들도 놀랍거나 파 볼 가치가 있다고 평가했다. 반면 같은 가설을 두고 모델에게 '이게 놀라운가'라고 그냥 물었을 때는 사람 평가와의 상관이 사실상 사라졌다.
• 탐색 방식 비교에서 가장 눈에 띄는 결과는 선형 탐색의 실패다. 만든 가설을 계속 맥락에 쌓아 가면 맥락이 길고 혼란스러워지는 데다 이미 등장한 토큰의 확률이 올라가, 틀을 벗어나는 발상 능력이 오히려 떨어진다.
• 발표자는 발견을 편향과 분산의 문제로 정리하며, 발견에서는 분산 쪽을 최적화해야 한다고 말한다. 점점 더 일관되게 답하도록 훈련된 거대 모델을 어떻게 틀 밖으로 밀어낼 것인가가 과제라는 뜻이다.
• 한계도 분명하다. 놀라움은 실험을 실제로 돌린 뒤에야 계산되므로 사전에 예측할 수 없고, 사전 믿음이 반반인 가설이 유망하리라는 직관적 기준은 데이터로 확인해 보니 성립하지 않았다. 한 번의 실행에서 중복 가설이 20% 나오는 문제도 남아 있다.

자주 묻는 질문

관련 AI 소식