딥러닝이란? 신경망 층 구조와 학습 원리, 머신러닝과의 차이까지

핵심 메시지

• 딥러닝은 다층 인공 신경망으로 사람의 뇌가 결정을 내리는 과정을 흉내 내는, 머신러닝의 한 갈래이자 AI의 부분집합이다.
• 신경망은 입력층·은닉층·출력층으로 이뤄지며, 은닉층이 여러 개라는 점에서 '깊다(deep)'는 이름이 붙는다.
• 모델은 순전파로 예측하고, 손실 함수로 얼마나 틀렸는지 재며, 역전파로 가중치를 조정하는 훈련 루프를 반복하며 스스로 개선한다.
• 머신러닝과의 결정적 차이는 '사람의 개입이 적다'는 것으로, 딥러닝은 무엇이 중요한 특징인지까지 원시 데이터에서 직접 학습한다.

쉽게 이해하기

영상은 딥러닝을 '단계별 지시 대신 원시 데이터로부터 스스로 배우게 하는 것'이라고 설명하며, 이것이 머신러닝과 닮은 이유는 딥러닝이 곧 머신러닝의 더 좁고 집중된 형태이기 때문이라고 정리한다. 즉 딥러닝은 머신러닝의 부분집합이고, 머신러닝은 다시 AI의 부분집합이다. 딥러닝은 다층 인공 신경망으로 뇌의 의사결정 과정을 흉내 내며, 이미지·텍스트·소리 같은 비정형 데이터에서 패턴을 자동으로 학습한다.

딥러닝의 영감은 사람의 뇌다. 뇌는 수십억 개의 뉴런으로 이뤄져 있고 각 뉴런은 신호를 받아 처리한 뒤 다음으로 넘길지 결정하는 작은 의사결정자다. 뇌가 반복적이거나 감정적이거나 유용한 연결은 강화하고 지루한 세부는 지워버리듯, 딥러닝도 유용한 연결은 키우고 쓸모없는 연결은 줄인다. 다만 뇌의 생물학이 아니라 학습의 '구조'를 본떴다는 점이 핵심이다.

인공 신경망은 노드(인공 뉴런)들이 연결된 구조이며, 각 연결에는 중요도를 뜻하는 '가중치'가, 각 노드에는 활성화 시점을 조절하는 '편향'이 붙는다. 신경망은 층으로 조직된다. 입력층은 데이터를 있는 그대로 받아 넘기는 '눈과 귀'이고, 은닉층은 실제 학습이 일어나는 '진짜 두뇌'로 단순한 패턴에서 점점 복잡한 개념으로 조합해 나간다. 출력층은 하나의 숫자나 범주, 확률 같은 최종 답을 낸다. 은닉층이 많을수록 복잡한 패턴을 배우지만 더 많은 데이터와 연산이 필요하다.

학습은 훈련으로 이뤄진다. 데이터가 신경망을 통과하는 '순전파'로 모델이 일단 추측을 내놓고, '손실 함수'가 얼마나 틀렸는지를 측정한다. 이어 '역전파'가 그 오차를 출력에서 뒤쪽 층으로 되돌려 보내며 가중치를 조정한다. 가중치를 볼륨 손잡이에 비유하면, 중요한 연결은 키우고 쓸모없는 연결은 줄이는 식이다. '옵티마이저'는 가중치를 얼마나 크게 바꿀지 조절해, 너무 과격하지도 너무 더디지도 않게 학습 속도를 다스린다. 이 예측-측정-조정 과정을 반복하는 것이 훈련 루프다.

활성화 함수는 노드가 받은 정보에 얼마나 반응할지를 정하는 '결정자'다. 그 핵심 역할은 '비선형성'을 더하는 것인데, 활성화 함수가 없으면 신경망은 아무리 층을 쌓아도 직선적인 관계만 배울 수 있다. 비선형성은 모델이 데이터를 구부리고 비틀어 얼굴, 언어의 의미, 지저분한 현실 데이터의 추세 같은 복잡한 패턴을 배우게 한다. 마지막으로 영상은 머신러닝과 딥러닝의 차이를 '사람의 개입이 적다'로 요약한다. 전통 머신러닝은 사람이 어떤 특징이 중요한지 정해주지만, 딥러닝은 모델이 원시 데이터에서 그것까지 스스로 찾는다. 대신 수많은 예시와 GPU 같은 큰 연산 자원이 필요하다.

주요 인사이트

• 딥러닝이 뇌에서 빌려온 것은 생물학이 아니라 '유용한 연결은 강화하고 쓸모없는 연결은 약화한다'는 학습의 구조다. 이 원리가 인공 신경망의 가중치 조정으로 그대로 옮겨졌다.
• '깊다(deep)'는 말은 은닉층이 여러 개라는 뜻이다. 층이 깊어질수록 경계→모양→물체처럼 단순 패턴을 복잡한 개념으로 조합할 수 있지만, 그만큼 더 많은 데이터와 연산이 든다.
• 학습의 심장은 순전파·손실 함수·역전파·옵티마이저로 이어지는 훈련 루프다. 모델은 '얼마나 틀렸는지'를 재고 그 오차를 거꾸로 흘려보내 가중치를 조금씩 고치며 나아진다.
• 활성화 함수가 더하는 비선형성이 딥러닝의 진짜 초능력이다. 이것이 없으면 아무리 층을 쌓아도 직선적 관계만 배울 수 있어, 현실의 복잡한 패턴을 다룰 수 없다.
• 머신러닝은 사람이 특징을 골라주는 '헬리콥터 부모'에 가깝고, 딥러닝은 무엇이 중요한지 스스로 정하는 방식이다. 그 자율성의 대가로 훨씬 많은 데이터와 연산 비용이 필요하다.

자주 묻는 질문

관련 AI 소식