지속 학습(Continual Learning)으로 MRI 뇌전증 진단 AI의 오탐을 줄인 실제 의료 사례

핵심 메시지

• 전 세계 약 5천만 명이 앓는 뇌전증에서, 약물로 조절되지 않는 유형의 70% 이상은 국소 피질 이형성증(FCD)이라는 뇌 조직 이상이 원인이다.
• 첫 모델은 실제 환자 검증에서 병변 9건 중 7건을 찾아 전문의(3건)를 앞섰지만, 동시에 위양성을 86건이나 만들어 임상에서 쓸 수 없었다.
• 재학습 없이 새 데이터만 조금씩 흡수하는 '지속 학습(continual learning)'을 적용하자 검출 능력은 유지한 채 위양성 비율이 크게 떨어졌다.
• 지속 학습은 데이터를 영구 보관할 수 없는 개인정보 민감 분야, 재학습할 시간이 없는 실시간 데이터, 그리고 불균형 데이터셋에서 특히 유용하다.
• 대형 언어모델에는 아직 지속 학습이 제대로 구현되지 않았고, 구글 리서치의 '중첩 학습(nested learning)' 같은 새 패러다임이 그 빈자리를 노리고 있다.

쉽게 이해하기

NDC 토론토 2026에서 폴란드 출신 AI 솔루션 아키텍트 아가타 후진스카(Agata Chudzińska)가 병원과 함께 진행한 MRI 진단 프로젝트를 공개했다. 주제는 화려한 에이전트나 대형 언어모델이 아니라, 모델이 배포된 뒤에도 계속 배우게 만드는 '지속 학습'이었다. 발표자는 이를 두고 지금 AI에 빠져 있는 '잃어버린 조각'이라고 표현했다.

대상 질환은 뇌전증이다. 전 세계에서 약 5천만 명이 앓는 흔한 신경계 질환이고, 환자는 이유를 알 수 없는 급사 위험이 일반인보다 24배 높다고 발표는 전했다. 약을 먹어도 발작이 잡히지 않는 난치성 뇌전증의 70% 이상은 국소 피질 이형성증(FCD)이라 불리는 뇌 발달 이상이 원인인데, 수술로 치료할 수 있는 여지가 있는데도 MRI에서 찾아내기가 매우 어렵다. 회색질과 백질의 경계가 흐려지거나 뇌 표면 주름이 이상한 식으로 나타나지만 크기·위치·모양이 제각각이고, 네 가지 특징이 늘 함께 보이지도 않는다.

연구팀은 FCD가 있는 MRI 201건을 모아 그때까지 가장 큰 데이터셋을 구축했다. 데이터가 적어 신경망을 바로 학습시키는 대신 전처리에 공을 들였다. 먼저 뇌 조직만 분리해 두개골 같은 불필요한 정보를 지우고, 뇌전증 전문의들이 오랫동안 써온 영상 강조 기법을 참고해 픽셀 밝기의 표준편차와 평균을 이용한 필터, 그리고 '흐릿한 부분에 흐림을 더하면 흐림이 더 도드라진다'는 성질을 이용한 필터를 만들었다. 이렇게 만든 두 필터와 원본 T1·FLAIR 영상을 4개 채널로 묶어 U-Net 계열 인코더-디코더 신경망에 넣었다. 최신 트랜스포머 구조도 시도했지만 이 과제에서는 오히려 성능이 떨어졌다.

문제는 실제 환자를 대상으로 한 전향적 임상 검증에서 드러났다. 병변이 확인된 9명 중 신경영상 전문의는 3명을 찾아냈고 모델은 7명을 찾아 확실히 앞섰다. 그런데 병변이 없는데 있다고 답한 경우가 의사는 5건인 반면 모델은 86건이었다. 발표자는 위양성이 이렇게 많으면 결국 아무도 경고에 반응하지 않게 된다고 지적했다. 원인을 하나씩 뜯어보니 환자 움직임으로 생긴 잡음, FCD와 비슷해 보이는 다른 병변, 특정 뇌 부위에 데이터가 몰린 편향, 그리고 결정적으로 학습 데이터의 대다수가 FCD 환자여서 실제 세상의 분포와 정반대였다는 점이 겹쳐 있었다.

두 번째 시도에서는 데이터 분포를 현실에 맞춰 FCD를 소수로 두고(FCD 30건, 정상 150건, FCD가 아닌 병변 120건), 이를 세 묶음으로 나눠 순차적으로 학습시켰다. 방법으로는 중요한 가중치가 훼손되지 않도록 벌점을 주는 규제 기반 기법인 탄력적 가중치 통합(EWC)을 골랐다. 결과적으로 지속 학습 모델은 병변 검출 능력을 10건 중 8~9건으로 사실상 유지하면서 특이도를 70%까지 끌어올렸다. 발표자는 이 모델이 지금은 전문가가 아닌 영상의학과 의사의 1차 선별을 돕는 용도로 실제 임상에서 쓰이고 있으며, 관련 연구를 학술지 두 편으로 발표했다고 밝혔다.

주요 인사이트

• 의료 AI에서는 '얼마나 잘 찾아내는가'보다 '헛다리를 얼마나 덜 짚는가'가 도입 여부를 가른다. 검출률에서 전문의를 앞선 모델도 위양성 86건 때문에 그대로는 현장에 들어갈 수 없었다.
• 적은 데이터로 신경망을 학습시킬 때는 모델을 키우기보다 도메인 전문가의 판독 요령을 전처리 필터로 옮겨 담는 편이 효과적이었다. 유행하는 트랜스포머보다 오래된 U-Net 계열이 더 나은 결과를 낸 것도 같은 맥락이다.
• 모델을 처음부터 다시 학습시키면 망각 문제는 해결되지만, 환자 데이터를 영구 보관해야 하고 계산 비용과 시간도 계속 늘어난다. 지속 학습은 과거 데이터를 다시 보지 않아도 된다는 점에서 개인정보 규제가 강한 분야에 특히 맞는다.
• 불균형 데이터셋에서 소수 클래스의 특징을 먼저 학습시킨 뒤 현실 분포를 나중에 가르치는 순서 전략은, 의료를 넘어 산업 IoT 같은 영역에도 적용해볼 만한 접근이다.
• 대형 언어모델은 사전학습·지시 튜닝·정렬 등 여러 단계가 서로 얽혀 있어 한 단계만 손대도 다른 단계가 흔들린다. 발표자는 이것이 아직 어떤 대형 기업도 LLM의 지속 학습을 해내지 못한 이유라고 설명했다.

자주 묻는 질문

관련 AI 소식