AI 기초 개념 총정리: 머신러닝·딥러닝·생성형 AI·AI 에이전트 차이

핵심 메시지

• AI는 가장 넓은 분야이고, 머신러닝은 그 하위 영역이며, 딥러닝은 다시 머신러닝 안의 신경망 기반 분야다. 정규표현식·규칙 기반 시스템처럼 머신러닝이 아닌 AI도 존재한다.
• 전통 프로그램은 입력과 로직(수식)을 주면 출력을 내지만, 머신러닝은 입력과 출력을 주면 스스로 로직(패턴)을 찾아내 모델에 저장한다.
• 머신러닝의 핵심 과제는 분류(스팸/정상 같은 정해진 범주)와 회귀(집값처럼 연속된 숫자) 두 가지이며, 라벨 유무에 따라 지도학습과 비지도학습으로 나뉜다.
• 딥러닝의 신경망은 여러 뉴런이 각자 일부 특징을 점수로 판단하고, 오차를 거꾸로 전달하는 역전파로 가중치를 조정하며 학습한다.
• 현대 생성형 AI와 에이전트 붐은 트랜스포머 아키텍처에서 비롯되었고, AI 에이전트는 목표만 주면 스스로 계획·도구 사용·실행까지 수행한다.

쉽게 이해하기

이 강의는 AI를 처음 접하는 사람이 가장 혼란스러워하는 용어들을 단계적으로 정리한다. 인공지능은 인간이 잘하는 일(패턴 인식, 시각·음성·언어 처리 등)을 컴퓨터가 수행하도록 만드는 컴퓨터과학의 큰 분야다. 그 안에 머신러닝이 있고, 머신러닝은 다시 통계적 머신러닝과 딥러닝으로 나뉜다. 강의는 ML과 DL을 같은 것으로 오해하는 경우가 많지만, 서로 겹치면서도 구분되는 개념임을 강조한다.

전통적 프로그래밍과 머신러닝의 차이를 스팸 분류 예시로 설명한다. 사람이 수천 통의 스팸·정상 메일을 보며 패턴을 익히듯, 컴퓨터도 입력과 출력 데이터를 받아 스스로 규칙을 도출한다. 즉 전통 프로그램이 '입력+로직→출력'이라면, 머신러닝 학습은 '입력+출력→로직'이며, 학습된 규칙은 모델에 저장된다. 학습 단계와, 새 입력에 대해 예측을 내놓는 추론 단계로 나뉜다.

머신러닝 과제는 크게 분류와 회귀로 나뉜다. 스팸/정상이나 고양이/개처럼 정해진 범주로 나누면 분류이고, 질로우의 집값 추정처럼 연속적인 숫자를 예측하면 회귀다. 또한 입력-출력 쌍(라벨)이 있으면 지도학습, 라벨 없이 패턴만으로 군집화·이상치 탐지를 하면 비지도학습이다. 강의는 아이가 장난감을 정해진 통에 나누는지(지도) 스스로 기준을 만들어 나누는지(비지도)로 비유한다.

딥러닝은 이미지·영상·텍스트 같은 비정형 데이터에 강하다. 코알라를 한 번도 못 본 학생들이 각자 눈·코·귀를 0~1 점수로 판단하고, 그 결과를 다음 단계가 종합해 얼굴·몸·최종 판단으로 연결하는 비유로 신경망을 설명한다. 학생들이 처음엔 무작위로 추측하다 감독관의 정답 피드백(역전파)을 받아 가중치를 조정하며 점점 정확해지는 과정이 바로 신경망 학습이다. 신경망 구조에는 순방향 신경망, 순환 신경망(RNN), 그리고 현대 생성형 AI의 토대인 트랜스포머가 있다.

마지막으로 생성형 AI와 AI 에이전트를 다룬다. 생성형 AI는 텍스트·이미지·영상 등 새로운 콘텐츠를 만드는 AI로, GPT·Gemini·Claude·Llama 같은 대규모 언어 모델(LLM)이 대표적이다. LLM은 방대한 데이터로 다음 단어의 확률을 예측하는 '확률적 앵무새'에 가깝고, RLHF(인간 피드백 강화학습)로 유해성을 줄인다. 워크플로(RAG 챗봇, 도구 연결 챗봇)와 달리 에이전트는 목표만 주면 스스로 다단계 계획을 세우고 도구를 호출해 자율적으로 작업을 수행한다.

주요 인사이트

• ML과 DL을 고를 때는 데이터가 정형인지 비정형인지, 특징이 단순한지 복잡한지, 학습 샘플이 충분한지를 기준으로 판단한다. 비정형·대용량일수록 딥러닝이 유리하다.
• '머신러닝 모델'이란 결국 학습으로 도출된 수식·로직 덩어리를 디스크에 저장한 것이며, 명시적 프로그래밍 없이도 예측을 수행한다는 점이 핵심이다.
• RAG는 사내 PDF 같은 비공개 지식을 LLM에 연결해 답하게 하는 방식으로, 비용이 큰 파인튜닝 없이도 모델이 외부 지식을 참조하게 해준다.
• AI 에이전트와 에이전틱 AI는 사실상 같은 개념으로, 인지·판단·실행이 가능한 에이전트가 하나 이상 모여 복잡한 추론과 다단계 실행을 자율적으로 수행하는 시스템이다.
• 딥러닝에는 대량 데이터와 GPU가 필수이며, 프레임워크로는 메타의 PyTorch와 구글의 TensorFlow가 양대 축인데 PyTorch가 더 초보 친화적이고 널리 쓰인다.

자주 묻는 질문

관련 AI 소식