머신러닝 흔한 오해 정리 — 정확도 100%가 위험한 이유부터 데이터 증강·전이학습의 함정까지

핵심 메시지

• 딥러닝은 언제나 우월한 선택이 아니다. 정형 데이터나 규모가 작은 데이터셋에서는 단순한 모델이 더 나은 경우가 많다.
• 정확도 100%는 성과가 아니라 경고 신호에 가깝다. 시험 답을 외운 학생처럼 값비싼 조회 테이블이 됐다는 뜻일 수 있다.
• 균형 잡힌 학습 데이터가 항상 좋은 것도 아니다. 사기 탐지처럼 현실이 본래 불균형한 문제라면 학습 데이터 분포를 현실 분포에 맞추는 편이 낫다.
• 결측치와 이상치는 제거 대상이 아니라 정보일 수 있다. 값이 왜 비었는지, 왜 튀는지가 데이터에서 가장 많은 것을 말해 주는 경우가 있다.
• ML 프로젝트가 무너지는 이유는 기술보다 조직과 소통인 경우가 더 많다. 이해관계자가 모델의 한계를 모르거나 문제 정의 자체가 흐릿하면 모델 성능과 무관하게 실패한다.

쉽게 이해하기

영상은 실무자들이 자주 틀리는 30가지를 하나씩 뒤집는데, 출발점은 AI와 머신러닝이 같은 말이 아니라는 구분입니다. AI가 정보를 지능적으로 처리하는 시스템 전반을 가리킨다면, 머신러닝은 그중 데이터로부터 배우는 부분에 한정됩니다. 시스템을 설계할 때 이 구분은 실제로 결과를 바꿉니다.

가장 자주 반복되는 오해는 깊을수록 좋다는 믿음입니다. 심층 신경망은 계층적 표현을 배우는 데 탁월하지만 정형 데이터나 소규모 데이터셋에서는 오히려 뒤처지곤 하고, 층을 더 쌓는 일은 어느 지점부터 맛이 아니라 먹기 힘든 정도만 늘리는 케이크에 가깝습니다. 모델 복잡도가 모델 크기와 직결되지 않는다는 지적도 같은 맥락으로, 파라미터가 수백만 개여도 사실상 선형 관계를 구현하고 있을 수 있습니다.

지표를 둘러싼 오해도 큽니다. 1%에서만 발생하는 희귀 질환이라면 '항상 아니다'라고 답하는 모델도 정확도 99%를 기록하지만 아무 쓸모가 없습니다. 정밀도와 재현율 중 무엇을 우선할지도 모델이 아니라 오류의 대가가 정하는데, 사기 탐지에서 한 건을 놓치는 비용이 오탐 100건을 조사하는 비용보다 클 수 있습니다. 모델의 확신도 역시 믿을 것이 못 되어, 현대 심층 신경망은 과신하는 경향이 있고 위험도가 높은 영역일수록 이 문제가 커집니다.

데이터 처리 관행도 다시 볼 필요가 있습니다. 데이터 증강은 공짜 점심이 아니어서, 의료 영상에서 종양을 좌우 반전하면 해부학적으로 불가능한 사례가 되고 금융 데이터에서 시간 순서를 섞으면 존재할 수 없는 시장 상황을 모델이 정상으로 학습합니다. 교차검증도 의례처럼 취급되지만, 시계열 데이터를 무작위로 섞어 폴드를 나누는 것은 미래로 과거를 예측하는 셈이라 수학적으로만 가능할 뿐 실무적으로는 무의미합니다.

운영 단계의 통념도 흔들립니다. 데이터 분포가 변하지 않고 모델이 잘 동작한다면 재학습은 불필요한 위험을 들여올 수 있고, 자율주행처럼 응답을 기다릴 여유가 없는 경우 엣지 추론은 선택이 아니라 필수입니다. 반대로 과도하게 비관적인 통념도 정리되는데, 어텐션 맵과 특징 시각화가 있는 이상 신경망은 완전한 블랙박스가 아니고 연합 학습과 차분 프라이버시는 개별 데이터에 직접 접근하지 않고도 학습할 길을 열어 줍니다. 편향 역시 전부 나쁜 것이 아니어서, 세상에 대한 합리적 가정인 귀납 편향이 없으면 학습 자체가 거의 불가능합니다.

주요 인사이트

• 영상이 나열한 30가지는 서로 다른 주제처럼 보이지만 하나의 원칙으로 수렴한다. 모범 사례를 외우는 것이 아니라 언제 그것을 적용할지 판단하는 능력이 실력이라는 것이다.
• 데이터 증강과 교차검증의 함정은 모두 '데이터가 어떤 제약 아래 생성됐는가'를 무시할 때 생긴다. 의료 영상의 좌우 대칭성, 금융 데이터의 시간 순서처럼 도메인 제약을 깨는 변형은 성능 지표를 개선하면서 모델을 망가뜨린다.
• 균형 데이터셋이 항상 정답이 아니라는 지적은 실무에서 특히 유용하다. 목표는 클래스 비율을 맞추는 것이 아니라 학습 분포를 배포 환경에서 마주할 분포에 맞추는 것이다.
• '모델 확신도는 정확도가 아니다'는 경고는 사람에게도 그대로 적용된다. 모든 것에 확신에 찬 친구처럼, 현대 신경망은 틀린 답에도 높은 확률을 붙인다.
• 앙상블이 언제나 낫다는 통념도 조건부다. 구성 모델들이 서로 다른 종류의 오류를 낼 때만 의미가 있고, 같은 실수를 하는 모델을 여럿 모으면 더 복잡하게 틀릴 뿐이다.

자주 묻는 질문

관련 AI 소식