AlexNet 정리: ReLU와 드롭아웃, GPU로 2012년 이미지넷을 제패하며 딥러닝 시대를 연 다섯 가지 무기

핵심 메시지

• 2012년 이전에는 사람이 손으로 이미지의 특징을 정의해야 했고, 세상 모든 사물의 모든 각도를 정의하는 일은 사실상 불가능했다.
• AlexNet은 이미지넷 대회에서 오류율 15.3퍼센트를 기록해 2위 26.2퍼센트와 격차를 벌렸고, 상대 오류율을 약 40퍼센트 줄였다.
• 성공의 열쇠는 깊이가 아니라 ReLU, GPU, 드롭아웃, 데이터 증강, 중첩 풀링이라는 다섯 가지 기술의 조합이었다.
• 512개 코어를 가진 GTX 580 덕분에 몇 달 걸릴 훈련이 닷새에서 엿새로 줄었고, 딥러닝에 GPU가 필수라는 인식이 자리 잡았다.
• AlexNet의 8개 층은 2년 뒤 VGG넷의 19개 층, 다시 이듬해 레즈넷의 152개 층으로 이어지며 깊이의 원칙을 증명했다.

쉽게 이해하기

2012년 이전까지 컴퓨터에게 이미지는 그저 픽셀 값의 나열이었다. 그래서 전문가들이 코드로 이미지의 특징을 직접 정의해주는 수작업 특징 추출 방식이 쓰였고, SIFT나 HOG 같은 기술이 모서리나 질감 같은 특정 패턴을 찾도록 설계됐다. 영상은 이를 아이에게 고양이는 귀가 뾰족하고 수염이 나 있다고 하나하나 알려주는 일에 비유한다. 세상의 모든 사물을, 그것도 각도와 조명이 바뀔 때마다 달라지는 모습을 전부 사람이 정의하는 일은 불가능에 가까웠다.

당시 정체는 숫자로도 드러난다. 이미지 인식의 올림픽이라 불리던 ILSVRC 대회에서 2010년과 2011년 최고 모델들은 1년을 꼬박 노력해도 오류율을 1퍼센트 남짓 줄이는 데 그쳤다. 연구자들 사이에 이제 한계에 온 것 아니냐는 비관이 퍼져 있던 참이었다. 그런데 2012년 대회에서 2위 팀이 전년과 비슷한 26.2퍼센트에 머무는 동안 AlexNet이 15.3퍼센트를 기록했다. 상대적인 오류율을 한 번에 40퍼센트 줄인 결과였다.

첫 번째 무기는 ReLU다. 층이 깊어질수록 학습 신호인 그래디언트가 점점 희미해져 뒤쪽 층이 아무것도 배우지 못하는 기울기 소실 문제가 당시의 최종 보스였다. AlexNet은 입력이 0보다 크면 그대로 내보내고 작으면 0으로 만드는 온오프 스위치 같은 함수 하나로 이를 풀었다. 덕분에 학습 신호가 죽지 않고 깊은 층까지 전달됐고 학습 속도는 기존 방식보다 여섯 배 빨라졌다.

두 번째 문제는 과적합이었다. 파라미터가 6천만 개가 넘는 당시로서는 거대한 모델이었기에, 훈련 데이터는 잘 맞히면서 처음 보는 데이터에서는 무너지기 쉬웠다. 시험 문제와 답만 외운 학생이 응용 문제를 못 푸는 상황이다. 해법은 두 가지였다. 원본 이미지를 돌리고 자르고 색을 바꿔 훈련 데이터를 불리는 데이터 증강, 그리고 훈련할 때마다 일부 뉴런을 무작위로 꺼버리는 드롭아웃이다. 드롭아웃은 특정 뉴런 몇 개에만 기대는 꼼수를 막아 남은 뉴런들이 더 탄탄한 특징을 배우게 하며, 여러 모델을 합치는 앙상블과 비슷한 효과를 효율적으로 낸다.

아무리 좋은 아이디어라도 돌릴 하드웨어가 없으면 소용없다. 당시 일반적인 CPU가 코어 8개 정도였던 데 비해 훈련에 쓰인 엔비디아 GTX 580은 코어가 512개였고, 원래대로라면 몇 달이 걸렸을 훈련이 닷새에서 엿새 만에 끝나면서 딥러닝에 GPU가 필수라는 사실이 이때 분명해졌다. AlexNet이 8개 층으로 문을 열자 2년 뒤 VGG넷이 19개 층, 이듬해인 2015년에는 레즈넷이 152개 층까지 쌓아 올리며 네트워크는 깊어질수록 똑똑해진다는 화두가 증명됐다. 파급력은 연구실에 머물지 않아 컴퓨터 비전 분야 전체가 딥러닝으로 돌아섰고 엔비디아 주가는 치솟았으며, 자율주행차와 휴대폰 사진 검색, 생성형 AI까지 뿌리를 거슬러 올라가면 그 시작점에 AlexNet이 있다.

주요 인사이트

• AlexNet의 성과는 모델을 무작정 깊게 쌓아서 나온 것이 아니다. 기울기 소실과 과적합, 연산 속도라는 서로 다른 병목을 각각 겨냥한 기술들이 동시에 맞물린 결과다.
• 1년에 1퍼센트씩 개선되던 분야에서 하루아침에 10퍼센트가 넘는 격차가 벌어졌다는 점이 당시 학계와 산업계가 받은 충격의 크기를 설명한다.
• 드롭아웃의 발상은 역설적이다. 훈련 중에 일부러 뉴런을 꺼서 성능을 떨어뜨리는 것처럼 보이지만, 그 결과 일반화 능력이 올라간다.
• GPU 도입은 단순한 속도 개선이 아니라 실험 가능성 자체를 바꾼 사건이다. 몇 달이 걸리는 실험은 시도조차 하기 어렵지만 닷새면 반복해서 개선할 수 있다.
• 논문 마지막 문장에서 연구진 스스로 이제 막 시작했을 뿐이라고 선언했다는 점은, 이들이 자신들의 성과가 종착점이 아님을 정확히 알고 있었음을 보여준다.

자주 묻는 질문

관련 AI 소식