신경망이란 무엇인가 — 노드·가중치·경사하강법 5가지 핵심 정리

핵심 메시지

• 인공 신경망은 입력층, 은닉층, 출력층의 노드 계층으로 구성되며 인간 뇌의 동작 방식에서 착안했다.
• 각 노드는 입력·가중치·편향(임계값)·출력으로 이뤄진 하나의 선형회귀 모델처럼 동작한다.
• 데이터가 한 층에서 다음 층으로 전달되는 구조를 순전파(피드포워드) 네트워크라 한다.
• 신경망은 레이블된 데이터로 지도학습을 하며, 비용함수를 최소화하는 방향으로 가중치를 조정한다(경사하강법).
• 피드포워드 외에도 이미지 인식에 강한 CNN, 시계열 예측에 쓰이는 RNN 등 여러 종류가 있다.

쉽게 이해하기

영상은 신경망을 5분 안에 다섯 가지 핵심으로 정리한다. 첫째, 신경망은 노드 계층으로 구성된다. 입력 노드층, 은닉층, 출력층이 있으며, 이런 구조는 인간 뇌의 동작을 본떠 컴퓨터가 패턴을 인식하고 AI·딥러닝 영역의 문제를 풀게 한다. 머릿속 신경망과 구분하기 위해 정확히는 인공 신경망(ANN)이라 부른다.

둘째, 각 노드(인공 뉴런)는 그 자체로 하나의 선형회귀 모델이다. 노드 사이 연결의 가중치는 각 입력이 출력에 미치는 영향의 크기를 결정한다. 즉 노드는 입력 데이터, 가중치, 편향(임계값), 출력으로 구성된다.

셋째, 데이터가 한 층에서 다음 층으로 넘어가는 것을 순전파 네트워크라 한다. 영상은 '서핑을 갈까'를 결정하는 노드 예시를 든다. 파도가 좋은지, 사람이 적은지, 상어가 없는지 세 요인을 0 또는 1로 두고 각각 5, 2, 4의 가중치를 부여한다. (1×5)+(0×2)+(1×4)에서 임계값 3을 빼면 6이 되고, 0보다 크므로 출력은 1, 즉 '서핑을 간다'가 된다. 가중치나 임계값을 바꾸면 결과도 달라진다.

넷째, 신경망은 학습 데이터로 정확도를 높인다. 레이블된 데이터셋에 지도학습을 적용하고, 비용함수(cost function)로 정확도를 평가한다. 목표는 비용함수를 최소화하는 것이며, 이를 위해 모델이 가중치와 편향을 조정하는 과정을 경사하강법이라 한다. 경사하강법은 오차를 줄일 방향을 모델이 찾도록 돕는다.

다섯째, 신경망에는 여러 종류가 있다. 이미지 인식처럼 패턴을 식별하는 데 적합한 합성곱 신경망(CNN), 피드백 루프가 특징이며 매출 예측 같은 시계열 데이터 예측에 주로 쓰이는 순환 신경망(RNN) 등이 대표적이다.

주요 인사이트

• 노드를 '선형회귀 모델'로 보는 관점은 신경망을 신비로운 블랙박스가 아니라 입력에 가중치를 곱해 합산하고 임계값과 비교하는 명확한 계산 과정으로 이해하게 해 준다.
• 서핑 예시처럼 같은 입력이라도 가중치와 임계값을 바꾸면 출력이 달라진다는 점이 학습의 본질을 직관적으로 보여 준다. 학습이란 결국 적절한 가중치와 편향을 찾는 일이다.
• 비용함수 최소화와 경사하강법은 '얼마나 틀렸는가'를 측정하고 '어느 방향으로 고칠 것인가'를 정하는 두 축으로, 신경망이 스스로 정확도를 개선하는 메커니즘의 핵심이다.
• 문제 유형에 따라 신경망 구조를 골라야 한다. 이미지에는 CNN, 시계열 예측에는 RNN처럼 데이터의 성격이 적합한 아키텍처를 결정한다.

자주 묻는 질문

관련 AI 소식