머신러닝 딥러닝 AI 차이와 지도·비지도·강화학습 한눈에 정리

핵심 메시지

• AI 안에 머신러닝이, 머신러닝 안에 딥러닝이 들어가는 계층 구조다.
• 머신러닝은 훈련 데이터의 패턴을 학습해 처음 보는 데이터에도 예측을 내리는 기술이다.
• 학습 방식은 지도·비지도·강화학습 세 가지로 크게 나뉜다.
• 지금의 LLM·생성형 AI도 결국 고전적 머신러닝 원리를 확장·결합한 것이다.

쉽게 이해하기

유튜브가 다음 볼 영상을 추천하고 챗봇이 대화를 이어가는 일은 모두 머신러닝 덕분이다. 하지만 머신러닝(ML)과 AI, 딥러닝(DL)이 같은 말은 아니다. 셋은 동의어가 아니라 포함 관계로, AI라는 큰 범주 안에 머신러닝이 들어가고 그 안에 다시 딥러닝이 자리한다.

머신러닝은 명시적으로 규칙을 일일이 코딩하지 않고도 훈련 데이터의 패턴을 학습해, 새롭고 처음 보는 데이터에 정확한 추론을 내리는 알고리즘이다. 딥러닝은 그중에서도 여러 층의 신경망을 써서 데이터의 계층적 표현을 학습하는 머신러닝의 한 갈래다.

핵심은 '모델 훈련'이다. 현실을 충분히 닮은 데이터로 모델의 성능을 최적화하면, 그 모델은 새 데이터에서도 정확한 예측을 한다. 이렇게 훈련을 마친 모델을 실제로 돌려 새 데이터를 넣고 예측을 얻는 단계가 바로 'AI 추론(inference)'이다.

머신러닝은 크게 세 가지 학습 방식으로 묶인다. 정답(레이블)을 사람이 달아 주는 지도학습, 레이블 없이 데이터 스스로 구조를 찾게 하는 비지도학습, 보상과 벌점으로 시행착오를 거치며 정책을 다듬는 강화학습이다.

주요 인사이트

• 지도학습은 스팸/정상처럼 사람이 만든 정답 데이터가 필요하며, 회귀(연속값 예측)와 분류(이산적 범주 예측)가 대표적이다. 회귀에는 직선을 찾는 선형회귀, 비선형 관계를 잡는 다항회귀가 있고, 분류에는 이진·다중클래스·다중레이블이 있다.
• 비지도학습은 군집화와 차원 축소가 대표적이다. k-평균은 고객을 '알뜰 구매자·단골·고액 구매자·단순 구경꾼'처럼 묶고, 계층적 군집화는 IT 티켓을 '비밀번호 재설정·부팅 불가' 같은 주제로 나눠 자동 분류에 쓴다. PCA 같은 차원 축소는 의미를 유지하면서 특징 수를 줄여 압축·시각화·전처리에 활용한다.
• 강화학습은 에이전트가 상태를 관찰하고 행동을 골라 환경의 보상·벌점을 받으며 장기 보상을 극대화하는 정책을 배운다. 자율주행차가 GPS·카메라 정보를 보고 조향·제동·가속을 하면서 차선 유지에는 보상을, 급제동이나 충돌에는 큰 벌점을 받는 식이다.
• 회귀·분류·군집화·강화학습은 수년간 산업 현장에서 쓰여 온 고전적 머신러닝이다. 지금 화제인 LLM은 트랜스포머라는 새 신경망 구조 위에 서 있지만, 패턴 인식·데이터·훈련·추론이라는 동일한 원리에 기댄다. 사람 피드백을 보상으로 쓰는 RLHF처럼 강화학습도 LLM 정렬에 다시 등장했다.

자주 묻는 질문

관련 AI 소식