머신러닝 신약 설계, MIT 레지나 바질레이 강연으로 본 성과와 남은 과제

핵심 메시지

• MIT 레지나 바질레이 교수는 AI와 헬스케어의 접점에서 약 8년간 저분자→단백질→세포 모델링으로 연구를 넓혀 왔으며, 이 분야에는 깊은 과학이 쌓인 영역과 방법이 아예 없는 "사막" 같은 영역이 공존한다고 말한다.
• 버텍스의 낭포성 섬유증 치료제는 원인 단백질과 결합 물질을 찾는 데 20년 넘게 걸리고 연 30만 달러에 이른다. 이 시간을 줄일 수 있느냐가 핵심 질문이다.
• ML 신약 개발은 질병 생물학 이해, 화학물질(치료제) 설계, 임상시험의 세 갈래로 나뉘며, 머신러닝의 성공 대부분은 "무엇을 어떻게 고칠지"의 화학 설계 단계에 몰려 있다.
• 조너선 스토크스와의 항생제 연구에서는 브로드연구소의 약 2,500개 분자로 대장균 사멸 여부를 학습했는데, 작은 데이터셋만으로도 내성균에 듣는 새로운 작용기전의 항생제를 찾아냈다.
• 분자를 2D 그래프로 보고 그래프 합성곱(메시지 패싱)으로 표현을 학습하는 Chemprop이 널리 쓰이지만, 이후의 최신 기법이나 기초모델(foundation model)은 저분자에서 기대만큼 성능을 끌어올리지 못했다.

쉽게 이해하기

바질레이 교수는 이 강연을 "모든 문제를 AI가 멋지게 푼다"는 이야기가 아니라, 진전을 이룬 지점과 아직 해법이 없거나 형편없는 지점을 함께 보여주는 "실패도 담은" 발표라고 못 박는다. 그만큼 새로 뛰어들 사람에게는 기여할 여지가 크다는 뜻이기도 하다.

성공과 한계를 대비하는 사례로 버텍스의 낭포성 섬유증 치료제를 든다. 이 병은 점액이 제대로 만들어지지 않아 감염을 일으키는 중증 질환인데, 원인이 되는 단백질의 특정 돌연변이를 찾아내고 그 기능을 바로잡는 결합 물질을 만들어 환자 수명을 크게 바꿨다. 다만 개발에 20년 넘게 걸렸고 비용은 연 약 30만 달러에 이른다. 여전히 마땅한 치료가 없는 질병이 많은 만큼, 이 과정을 어떻게 앞당길지가 문제의 핵심이다.

ML 신약 개발은 크게 세 갈래로 나뉜다. 첫째는 분자 수준에서 질병 생물학을 이해해 "무엇을 고칠지"를 아는 것, 둘째는 실제로 고칠 화학물질을 만드는 것, 셋째는 임상시험이다. 머신러닝의 성공은 대부분 둘째, 즉 분자 과학에 몰려 있다. 접근도 두 방향이다. 작용 기전은 몰라도 실험(assay)으로 결과만 보는 표현형(phenotypic) 방식과, 표적과 기전을 이해하고 접근하는 표적기반(target-based) 방식이다.

표현형 접근의 대표 성과가 조너선 스토크스(당시 MIT 박사후연구원, 현 맥마스터대 교수)와의 항생제 연구다. 브로드연구소의 약 2,500개 분자로 대장균을 죽이는지 여부를 실험해 학습시켰는데, 머신러닝 기준으로는 아주 작은 데이터셋인데도 충분했다. 이렇게 찾아낸 약물은 위키백과 문서가 따로 있을 만큼 알려졌고, 내성균에도 듣는 데다 새로운 작용기전을 지녔다. 이후에는 미생물총은 남기고 특정 균만 골라 죽이는 항생제처럼, "무엇을 항생제로 볼지"를 다시 정의하는 연구로 이어졌다.

학습 방법의 핵심은 분자를 2D 그래프로 표현하고, 각 분자의 사멸 활성 점수(IC50 등)를 실험으로 측정해 "그래프→숫자" 매핑을 배우는 것이다. 고정된 작용기 특징을 미리 넣는 대신, 그래프 합성곱으로 원자마다 화학적 특징을 인코딩하고 이웃 원자 정보를 반복 집계(메시지 패싱)해 표현 자체를 학습한 뒤 이를 합쳐 분자 벡터를 만든다. 이렇게 만든 도구가 Chemprop으로, 용해도·독성·생리활성 등 다양한 속성에 성질에 상관없이 적용된다.

주요 인사이트

• 작은 데이터셋(약 2,500개 분자)만으로도 유의미한 학습이 가능했다는 점은, 데이터 규모보다 문제 설정과 표현 방식이 결정적일 수 있음을 보여준다.
• 표현형 접근은 작용 기전을 몰라도 결과(사멸 여부)만으로 새로운 기전의 약을 찾을 수 있어, 오히려 기존 생물학 지식에 얽매이지 않는 발견을 이끌 수 있다.
• 고정 특징이 아니라 그래프 합성곱으로 표현을 학습하는 것이 복잡한 속성 예측의 핵심이며, Chemprop은 속성에 구애받지 않는 범용 도구로 자리 잡았다.
• 2018년의 Chemprop 이후 최신 그래프 기법이 Tox21 같은 데이터에서 거의 개선을 못 냈고(약 80%대에서 정체), NLP·컴퓨터비전을 바꾼 기초모델도 저분자에서는 잘 통하지 않았다는 점은 이 분야에 남은 근본적 난제를 드러낸다.

자주 묻는 질문

관련 AI 소식