신경망 쉽게 이해하기: 코알라 판별 비유로 배우는 딥러닝의 층 구조와 역전파 학습 원리

핵심 메시지

• 신경망은 무거운 수학 없이도 '역할을 나눈 팀워크'라는 비유로 직관적으로 이해할 수 있다.
• 각 학생(뉴런)은 코알라의 눈·코·귀 같은 특정 부위를 0~1 점수로 판별하고, 그 결과를 다음 단계로 넘긴다.
• 입력층·은닉층·출력층의 구조는 판별을 나눠 맡은 학생들의 협업 구조와 같다.
• 학습은 틀린 답의 오차를 뒤로 전달해 가중치를 조정하는 역전파로 이뤄지며, 수많은 이미지로 반복하면 정확해진다.
• 신경망의 가장 놀라운 점은 각 뉴런이 어떤 특징을 맡을지 스스로 알아낸다는 것이다.

쉽게 이해하기

codebasics는 고등학생도 이해할 수 있도록 무거운 수학 없이 신경망을 설명한다. 코알라를 한 번도 본 적 없는 학생들에게 이미지를 주고 코알라인지 아닌지 맞히도록 훈련시키는 상황을 상상해 보자. 핵심은 이 문제를 팀워크로 나누는 것이다.

학생들은 각자 특정 부위를 맡는다. 마이크는 눈, 모한은 코, 샤킵은 귀를 담당한다. 각자는 0에서 1 사이의 점수로 판단을 내리는데, 0은 '확실히 코알라의 눈이 아님', 0.5는 '반반', 1은 '확실히 맞음'을 뜻하고 0.5를 넘으면 그 부위로 인정한다. 사자 이미지를 주면 눈은 둥글어 마이크는 0.03처럼 낮은 점수를 준다.

세리나는 눈·코·귀 점수를 공식으로 결합해 '얼굴' 여부를 판단하는데, 코알라의 코처럼 두드러진 특징에는 더 큰 가중치를 준다. 예시에서 코알라 얼굴 점수는 0.79, 사자는 0.15가 나온다. 다시 다리를 맡은 죠티와 꼬리를 맡은 첸의 판단을 니디가 모아 '몸통'을 판정하고, 세리나와 니디의 결과를 세르게이가 종합해 최종 답을 낸다. 여기서 각 사람은 하나의 뉴런이고, 마이크·모한 등은 입력층, 세리나·니디는 은닉층, 세르게이는 출력층에 해당한다.

학습의 원리는 이렇다. 처음에 훈련되지 않은 학생들은 무작위로 추측하고, 세르게이가 정답을 아는 감독관에게 답을 확인받는다. 틀리면 그 오차가 세르게이에서 세리나·니디를 거쳐 나머지에게로 전달되어 각자 가중치를 조정한다. 이것이 바로 '역전파(backward error propagation)'다. 수천, 수만 장의 코알라 이미지로 이 과정을 반복하면 팀은 점점 정확해진다. 가중치를 얼마나 조정할지는 미분과 수학으로 정해지며, codebasics는 그 수학을 3Blue1Brown 영상으로 안내한다.

이 발상은 인간의 뇌에서 왔다. 자전거를 배울 때 넘어지고 다시 시도하며 수십억 개 뉴런의 가중치가 오차 피드백으로 조정되어 결국 실수가 최소가 되는 것과 같다. 누군가는 이를 각자 정해진 일을 하고 결과를 합치는 분산 컴퓨팅으로 볼 수도 있지만, 신경망의 가장 매혹적인 점은 학습 그 자체다. 각 학생에게 무엇을 맡으라고 알려 주지 않아도, 뉴런들이 어떤 하위 작업과 특징을 맡을지 스스로 알아낸다. 그래서 복잡한 데이터에서 어떤 특징을 봐야 할지 몰라도, 입력층·은닉층·출력층으로 망을 구성하고 데이터를 충분히 주면 신경망이 특징을 알아서 찾아낸다.

주요 인사이트

• 신경망의 뉴런은 각자 특정 부위나 특징을 0~1 점수로 판별하는 '전문가'로, 협업 구조가 곧 층(layer) 구조가 된다.
• 은닉층은 입력층의 부분 판단을 결합해 더 높은 수준의 개념(얼굴, 몸통)을 만들어 내는 중간 단계다.
• 역전파는 출력에서 발생한 오차를 뒤로 전달해 각 뉴런의 가중치를 조금씩 고치는 과정이며, 반복 학습의 핵심이다.
• 신경망의 진짜 강점은 사람이 특징을 일일이 정의하지 않아도 데이터로부터 유용한 특징을 스스로 발견한다는 데 있다.
• 충분한 데이터만 주면 되는 이 구조는 특징을 미리 알 수 없는 복잡한 실제 문제에 특히 강력하다.

자주 묻는 질문

관련 AI 소식