MIT 6.S184 강의 정리: 확산 모델로 단백질을 설계하는 법과 RFdiffusion의 성과

핵심 메시지

• 신약 하나를 만드는 데 약 10년과 26억 달러가 들고 비용이 시간이 갈수록 오르는 구조여서, 생성 모델로 이 시간표를 앞당기려는 시도가 이어지고 있다.
• 단백질 구조 생성은 3D 좌표를 그냥 잡음으로 흐트러뜨리면 결합 구조가 깨지기 때문에, 원자 네 개 묶음을 강체 프레임으로 보고 회전과 이동에 확산을 적용하는 방식이 쓰인다.
• 생성된 단백질은 '이 구조로 접힐 만한 서열이 실제로 존재하는가'를 구조 예측 모델로 되짚어 검증하고, 다양성과 신규성까지 함께 본다.
• 구조 예측용으로 미리 학습된 신경망을 확산으로 미세조정한 RFdiffusion은 길이 800~1000 수준의 큰 단백질까지 생성하고, 결합 부위·대칭·부분 채우기 같은 조건을 지정할 수 있다.
• 결합 단백질 설계의 실험적 성공률이 기존 0.1% 수준에서 사례에 따라 30%까지 올라, 자릿수 단위의 개선이 실제 실험으로 확인됐다.

쉽게 이해하기

MIT의 확산 모델 강의 6.S184의 초청 강연에서 제이슨 임(Jason Yim)이 단백질 설계를 위한 확산 모델을 다뤘다. 그는 왜 이 문제에 AI가 필요한지부터 짚는다. 계산 분야에서는 무어의 법칙에 따라 시간이 갈수록 비용이 내려갔지만, 신약 개발에서는 정반대로 비용이 몇 년마다 배로 뛰는 현상이 관찰돼 이를 무어를 거꾸로 쓴 '이룸의 법칙'이라 부른다. 신약 하나에 약 10년과 26억 달러가 드는 구조에서, 생성 모델이 이 시간표를 줄일 수 있느냐가 질문이다.

단백질은 DNA에서 서열로, 서열에서 구조로, 구조에서 기능으로 이어진다. 강연자는 DNA가 생물학의 어셈블리어라면 단백질은 파이썬에 가깝다고 비유한다. 설계할 때는 목적에 더 가까운 고수준 언어에서 작업하는 편이 쉽다는 뜻이다. 이 분야에는 이미 세 개의 축이 있다. 서열에서 구조를 예측하는 알파폴드2, 구조에서 서열을 되돌리는 역설계 모델, 그리고 '이 부위에 결합하라' 같은 기능 조건에서 구조를 만들어내는 RFdiffusion이다. 이 성과들은 지난해 노벨 화학상으로 이어졌다.

구조를 생성하는 방법 자체가 이 강연의 기술적 핵심이다. 단백질은 결국 3차원 좌표의 모음이니 모든 좌표에 가우스 잡음을 넣는 순진한 방법을 떠올릴 수 있지만, 원자들이 서로 충돌하면 안 되고 결합 기하가 지켜져야 한다는 제약 때문에 구조가 자꾸 깨진다. 반대로 각도 공간에서만 확산을 돌리면 결합 길이는 지켜지지만, 각도를 조금만 바꿔도 사슬 끝이 크게 움직이는 지렛대 효과 탓에 제어가 어렵다. 그래서 연구팀은 사슬을 따라 반복되는 원자 네 개 묶음을 하나의 강체 프레임으로 보고, 회전과 이동에 확산을 적용하는 절충안을 택했다. 이 방식은 회전군 위에서 확산을 정의해야 해서 익숙한 가우스 공간의 수식을 그대로 쓸 수 없다. 다만 미분기하의 지수·로그 사상을 제대로 처리하면 결과적으로는 가우스 확산과 같은 직관에 도달한다. 시점 0에서는 실제 데이터에 집중돼 있던 분포가 잡음을 더할수록 퍼지다가 결국 다양체 위에서 균일하게 흩어진다. 모델 구조는 알파폴드2의 설계를 많이 빌려, 서열상 이웃뿐 아니라 공간적으로 가까운 잔기에도 주의를 기울이도록 만들었다. 강연자는 나중에는 플로우 매칭 버전이 더 좋은 결과를 냈고 이 분야가 그쪽으로 옮겨가는 중이라고 덧붙인다.

생성한 단백질이 쓸 만한지 어떻게 아는가. 강연에서 소개한 검사법은 생성된 구조에 맞는 서열을 계산한 뒤 그 서열을 구조 예측 모델에 넣어, 원래 구조와 얼마나 겹치는지를 보는 것이다. 여기에 더해 매번 비슷한 것만 뽑지 않는지(다양성), 학습 데이터에 있던 것을 되풀이하는 것은 아닌지(신규성)까지 확인한다. 초기 모델도 학습 데이터와 확연히 다른 구조를 만들어냈지만, 길이가 길어질수록 품질이 떨어지는 한계가 있었다. 다음 단계는 조건부 생성이다. 워싱턴대 단백질설계연구소와 함께 발표한 RFdiffusion은 구조 예측용으로 미리 학습된 신경망을 확산으로 미세조정하는 방식을 썼고, 사전학습 덕분에 학습이 짧아졌을 뿐 아니라 생성 가능한 길이가 300 수준에서 800~1000까지 늘었다. 여기에 '이 바이러스 단백질에 결합하는 것을 만들어라', '대칭 구조로 만들어라', '이 부분만 주고 나머지를 채워라' 같은 조건을 걸 수 있고, 여러 조건을 동시에 걸 수도 있다. 강연자가 강조한 대목은 이것이 그림에 그친 게 아니라는 점이다. 실험실에서 실제로 합성해 측정했고, 결합 단백질 설계의 실험적 성공률이 기존 0.1% 수준에서 사례에 따라 30%까지 올랐다. 인플루엔자 바이러스 단백질에 붙도록 설계한 결합체는 실제 측정된 구조가 AI가 내놓은 설계와 거의 일치했다.

마지막으로 그는 구조와 서열을 따로 만들지 않고 한 번에 생성하는 '코디자인'을 소개한다. 서열이 먼저인지 구조가 먼저인지의 닭과 달걀 문제를 피할 수 있다는 것이다. 다만 언어 모델처럼 왼쪽에서 오른쪽으로 만들어갈 순서가 단백질에는 없어서, 임의 순서로 이산 데이터를 생성하는 알고리즘이 따로 필요했다. 앞으로의 전망으로는 단백질을 넘어 DNA·RNA·저분자까지 아우르는 방향, 그리고 실험 결과를 되먹여 모델을 반복 개선하는 사후학습을 꼽았다. 사람 선호로 대화 모델을 정렬하듯, 실험 데이터로 생성 모델을 정렬하자는 발상이다.

주요 인사이트

• 확산 모델을 다른 영역에 옮길 때 핵심은 잡음을 어디에 넣느냐다. 좌표에 그냥 넣으면 물리 제약이 깨지고, 각도에만 넣으면 제어가 어려워진다는 이 강연의 대비가 그 점을 잘 보여준다.
• AI 생성 결과의 평가 기준이 '그럴듯한가'가 아니라 '실제로 접히는가, 다양한가, 새로운가'로 구체화돼 있다는 점이 이 분야의 강점이다.
• 사전학습의 효과가 언어 모델에만 국한되지 않는다. 구조 예측용으로 학습된 신경망을 확산으로 미세조정한 것이 생성 길이와 품질을 동시에 끌어올렸다.
• 실험실 검증이 가능하다는 점이 이 분야를 특별하게 만든다. 설계한 단백질을 합성해 실제 구조를 확인할 수 있어 벤치마크 점수 이상의 근거가 남는다.
• 동등변환 구조를 정교하게 설계할 것인지, 데이터 증강과 큰 트랜스포머로 밀어붙일 것인지는 아직 열린 문제다. 강연자는 대규모 연산이 있으면 후자도 통한다는 사례를 인정한다.

자주 묻는 질문

관련 AI 소식