단백질 생성 모델의 숨은 편향: 설계 가능성 지표가 만들어내는 구조 공간의 공백과 대가

핵심 메시지

• 단백질 구조 생성 모델은 학습부터 하이퍼파라미터 선택까지 '설계 가능성(designability)'이라는 지표에 맞춰 조정되며, 그 결과 자연 단백질 분포와 어긋난 편향이 생긴다.
• 설계 가능성 검사에 실제 PDB 단백질을 넣어보면 40~60%가 탈락한다. 자연에 존재하는 구조인데도 계산 지표가 걸러낸다는 뜻이다.
• 검사 방식이 전역 정렬로 2옹스트롬 이내를 요구하기 때문에, 경첩처럼 유연한 부위를 가진 구조가 체계적으로 불리해진다.
• 구조 임베딩으로 분포를 비교하니 모델들은 알파 나선 다발 쪽을 과다 생성하고, 루프가 많은 복잡한 접힘과 효소 구조는 거의 만들지 못했다.
• 연구진은 이미지 생성의 FID를 본떠 FPD(Fréchet 단백질 거리)를 제안해 이 커버리지 격차를 수치로 측정한다.

쉽게 이해하기

스탠퍼드 허푸수 연구실의 박사과정생 톈위 루가 버클리 BioML 세미나에서 SHAPES라는 평가 프레임워크를 발표했다. 임베딩 유사도를 이용해 단백질 구조를 계층적으로 평가한다는 뜻의 이름이다. 문제의식은 단순하다. 생성 모델 덕분에 예전에는 비싼 몬테카를로 샘플링이 필요했던 단백질 구조 공간을 쉽게 표집할 수 있게 됐지만, 현장에서는 이 모델들이 편향돼 있다는 감각이 공유돼 왔다. 대표적으로 RFdiffusion은 알파 나선 구조를 과도하게 만들어내는 경향이 있다. 편향의 출발점으로 지목된 것이 '설계 가능성'이라는 평가 지표다. 절차는 이렇다. 생성 모델로 구조를 하나 뽑고, ProteinMPNN 같은 모델로 그 구조에 맞는 서열을 설계한 뒤, AlphaFold나 ESMFold로 그 서열을 다시 접는다. 원래 구조와 다시 접은 구조를 전역 정렬해 거리가 2옹스트롬 이내이면 통과다. 여기에 pLDDT 80이나 70 이상, 예측 정렬 오차 5 미만 같은 신뢰도 조건이 붙기도 한다. 문제는 이 지표가 모델의 출력만이 아니라 개발 과정 전체를 좌우한다는 점이다.

가장 인상적인 수치는 여기서 나온다. 같은 검사에 실험적으로 확인된 PDB의 자연 서열을 넣으면 40~60%가 탈락한다. 결정학으로 존재가 확인된 단백질인데도 계산 지표는 '설계 불가능'이라고 판정하는 것이다. 계산 대리지표와 실험적 현실 사이의 간극이 그만큼 크다. 원인의 하나는 전역 정렬 방식이다. AlphaFold의 FAPE 손실이 잔기별 국소 정렬을 쓰는 것과 달리, 이 검사는 단일 전역 정렬을 강요해 경첩처럼 움직이는 유연한 부위에 부당한 벌점을 준다. 결국 2옹스트롬이라는 엄격한 기준은 뻣뻣한 구조를 선호하게 만든다.

연구진은 다섯 개 모델에서 각각 2만 개 남짓의 구조를 뽑아 CATH 및 PDB 분포와 비교했다. 이차구조 비율만 봐도 모든 모델이 나선과 병풍은 많고 루프는 적은 쪽으로 치우쳐 있었고, RFdiffusion은 특히 극단적이었다. 흥미로운 실험도 곁들였다. 다른 모델이 만든 구조에 RFdiffusion의 부분 확산을 20스텝만 적용하자 루프가 사라지고 나선과 병풍이 늘어나면서 설계 가능성이 급등했다. 지표를 올리는 일과 구조를 이상화하는 일이 사실상 같은 작업이라는 뜻이다.

더 깊이 보기 위해 연구진은 서열 대신 구조 임베딩을 썼다. Foldseek의 국소 특징, ProteinMPNN 인코더의 근접 이웃 기반 표현(첫 층은 48개 이웃), ESM3의 벡터 양자화 인코더(16개 이웃), 그리고 도메인 전체를 요약하는 전역 표현까지 층위를 나눠 투영했다. 그러자 눈에 띄는 패턴이 나타났다. 참조 분포에 없는 신생(de novo) 영역을 모델이 만들어내는 한편, 참조에는 있는데 샘플에는 아예 없는 공백이 생겼다. 그 공백에 해당하는 구조는 루프가 많은 복잡한 접힘이었고, 무작위로 뽑아 확인하니 상당수가 효소나 신호전달 단백질이었다. 기능을 위해 형태를 바꿔야 하는, 본질적으로 유연한 단백질들이다.

이 격차를 수치화하기 위해 이미지 생성의 FID를 본떠 FPD를 정의했다. 두 분포의 평균과 공분산이 일치하면 0에 가까워지는 방식이라 다변량 정규분포 가정이라는 한계가 뚜렷하지만, 모델 개발 지표로는 직관과 잘 맞았다. 편향이 심한 표집은 122, 덜한 쪽은 5 수준으로 벌어졌다. 샘플링 온도를 올리면 대체로 커버리지가 좋아졌지만 설계 가능성은 떨어졌고, RFdiffusion처럼 온도를 올려도 커버리지가 되레 나빠지는 예외도 있었다. 발표자는 설계 가능성을 버리자는 주장이 아니라고 선을 그으면서도, 참조로 삼는 PDB 자체가 결정화 가능한 단백질 쪽으로 편향돼 있다는 반론까지 포함해 무엇을 덮을 것인지 자체가 설계 선택임을 강조했다.

주요 인사이트

• 평가 지표가 모델 출력의 필터가 아니라 개발 과정 전체의 선택 기준이 되면, 지표는 곧 모델이 배우는 목표가 된다. 단백질 설계에서 이 문제가 특히 선명하게 드러났다.
• 자연 단백질의 40~60%가 '설계 불가능'으로 분류된다는 사실은 지표의 정의 자체를 다시 볼 근거가 된다. 설계 가능성의 정의상 그 구조로 접히는 서열이 존재한다는 것이 확인된 단백질들이기 때문이다.
• 빠진 영역이 하필 효소와 신호전달 단백질이라는 점이 중요하다. 기능을 위해 구조를 바꿔야 하는 단백질이 표집에서 빠진다면, 기능성 설계라는 목표 자체가 제약을 받는다.
• 편향을 '결함'으로만 볼 필요는 없다. 발현과 수율을 방해하는 진화적 흔적을 걷어낸 이상화된 구조를 원한다면 강한 정규화는 오히려 장점이며, 무엇을 목표로 하느냐에 따라 평가가 갈린다.
• 이미지 생성 커뮤니티의 FID를 구조 도메인으로 옮겨온 시도는, 서로 다른 생성 분야가 평가 방법론을 주고받는 방식을 보여준다. 다만 임베딩 종류마다 FPD 척도가 달라 절대값 비교는 조심해야 한다.

자주 묻는 질문

관련 AI 소식