데이터 어트리뷰션으로 알츠하이머 하위집단 찾기, MIT 데이터모델 기법 튜토리얼 정리

핵심 메시지

• 데이터모델은 어떤 훈련 표본이 특정 검증 표본의 예측에 얼마나 영향을 주는지 선형 모델로 근사하는 데이터 어트리뷰션 기법이다.
• 훈련 데이터의 일부만 무작위로 뽑아 수만 개의 가벼운 모델을 훈련하고, 그 성능 변동을 설명하는 방식으로 반사실적 예측을 만든다.
• 뇌 조직처럼 표본은 적고 특징과 연산 자원은 많은 영역에서 특히 쓸모가 있다.
• 발표자는 알츠하이머 환자 450명 규모 데이터에서 이 임베딩의 구조를 찾아내고, 한 군집에서 학습한 모델이 다른 군집에서 성능이 떨어지는지를 직접 확인해 하위집단 가설을 검증했다.
• 핵심 실무 조언은 병렬화나 장비 증설보다 단일 모델을 빠르고 안정적으로 훈련하는 것이 먼저라는 점이다.

쉽게 이해하기

이 튜토리얼은 알츠하이머병에 서로 다른 분자적 하위유형이 존재하는지를 묻는 데서 출발한다. 암 연구는 같은 유방암 안에서도 면역 회피나 증식 방식이 다른 하위유형을 구분해 정밀 의료로 나아갔지만, 알츠하이머는 아직 그런 구분에 성공하지 못했고 그것이 치료제 부재와 무관하지 않다는 문제의식이다.

연구자가 처한 조건은 흔한 딥러닝 환경과 반대다. 뇌 조직은 환자에게서 얻어야 하므로 표본 수가 해마다 크게 늘지 않는다. 반면 한 환자에게서 얻는 측정값은 세포 하나당 수만 개 유전자 수준으로 늘고 있고, 쓸 수 있는 연산 자원도 계속 좋아진다. 표본은 적고 특징은 많고 계산은 남는 상황에서 의미 있는 신호를 찾는 것이 과제다.

여기서 MIT 매드리 연구실의 데이터모델 기법이 등장한다. 훈련 데이터에서 일정 비율만 무작위로 뽑아 모델을 훈련하는 일을 수만 번 반복하고, 각 모델이 검증 표본을 얼마나 정확하고 자신 있게 맞혔는지를 기록한다. 그다음 "어떤 표본이 훈련에 포함됐는가"로 그 자신감의 변동을 설명하는 선형 모델을 표본마다 학습한다. 계수가 크게 양수면 그 훈련 표본이 예측을 돕고, 음수면 방해한다는 뜻이다. 발표자는 이를 "예측을 예측하는 모델"이라고 요약한다.

직관을 보여주기 위해 CIFAR-10 이미지로 실험이 진행됐다. 열 개 분류 대신 생물과 무생물을 가르는 이진 과제로 바꾸고, 훈련 데이터의 10%만 쓰는 설정으로 6만 개 남짓의 분류기를 훈련했다. 모델은 자동차나 비행기 같은 하위 범주 이름을 본 적이 없는데도, 데이터모델 임베딩을 주성분으로 투영하면 자동차와 동물, 말과 개처럼 구분선이 드러났다. 원본 픽셀에서 뽑은 성분보다 분산이 여러 축에 고르게 퍼지는 점도 함께 확인됐다.

생물 데이터에서도 같은 절차를 밟았다. 건강한 사람과 알츠하이머 진단을 받은 사람의 뇌 단일세포 데이터 450건에 그래디언트 부스팅 분류기를 쓰고 10만 개 규모의 모델을 훈련하자, 환자들 사이에서 서로 강하게 영향을 주고받는 덩어리가 나타났다. 결정적인 검증은 반사실적 실험이다. 임베딩이 알려준 대로 환자를 두 군집으로 나눈 뒤 한쪽에서 학습하고 같은 쪽에서 평가하면 성능이 좋고, 다른 쪽에서 평가하면 뚜렷하게 떨어졌다. 한 집단에서 배운 특징이 다른 집단으로 넘어가지 않는다는 것, 곧 서로 다른 하위집단이라는 근거다.

주요 인사이트

• 특징(유전자)의 중요도를 보는 기존 방식과 달리, 표본이 서로에게 주는 영향을 보면 집단 수준의 구조가 드러난다. 표본 하나만 빼는 방식은 비슷한 환자가 여럿이면 신호가 지워져 통하지 않는다.
• 군집화 자체는 아무 데이터에서나 되지만, 이 방법은 "이 군집에서 배운 것이 저 군집에 통하지 않는다"는 검증 절차를 함께 제공한다는 점이 다르다.
• 서브샘플 비율 선택이 결과를 좌우한다. 비율이 낮으면 모델이 배경색 같은 단순한 패턴만 배우고, 너무 높으면 설명할 변동 자체가 사라진다.
• 수만 개 모델 훈련에서는 데이터 로딩이 병목이 되기 쉽다. 발표자는 병렬화보다 단일 모델의 속도와 안정성을 먼저 다듬으라고 조언했다.
• 값싼 측정(혈액 검사 등)으로 분류기를 만들고 소수의 비싼 라벨(조직 검사)만 확보해 하위유형 라벨을 넓히는 활용안이 마지막에 제시됐다.

자주 묻는 질문

관련 AI 소식