생성형 AI 입문 — 머신러닝·딥러닝·파운데이션 모델 한눈에 정리

핵심 메시지

• AI는 컴퓨터과학의 한 분야이고, 머신러닝은 데이터로 모델을 학습시키는 AI의 하위 분야다.
• 머신러닝은 정답(라벨)이 있는 지도학습과 라벨 없이 군집을 찾는 비지도학습으로 나뉜다.
• 딥러닝은 인간 뇌에서 영감받은 인공신경망을 쓰며, 생성형 AI와 대형 언어모델(LLM)은 딥러닝의 하위 갈래다.
• 판별형 모델은 데이터를 분류·예측하고, 생성형 모델은 학습한 확률분포로 새 콘텐츠를 만들어낸다.
• 파운데이션 모델은 방대한 데이터로 사전학습된 뒤 다양한 용도로 미세조정되며, 트랜스포머가 생성형 AI 성능의 핵심이다.

쉽게 이해하기

구글 클라우드의 AI 기술 커리큘럼 담당자가 진행하는 ‘생성형 AI 입문’ 강의는 용어 정의부터 시작한다. AI는 물리학처럼 하나의 학문 분야로, 추론·학습·자율적 행동이 가능한 ‘지능형 에이전트’를 만드는 컴퓨터과학의 갈래다. 그 안에 데이터로부터 모델을 학습시켜 새로운 데이터에 대해 예측하게 만드는 머신러닝이 있다.

머신러닝의 두 가지 큰 갈래는 지도학습과 비지도학습이다. 지도학습은 이름·종류·숫자 같은 ‘라벨’이 붙은 데이터로 미래 값을 예측한다(예: 주문 방식과 금액으로 팁 예측). 비지도학습은 라벨 없이 원자료를 보고 자연스럽게 묶이는 군집을 찾는 ‘발견’의 과정이다. 지도학습에서는 예측값과 실제값의 차이를 ‘오차’로 보고, 이를 줄여가는 최적화로 모델을 개선한다.

딥러닝은 머신러닝의 한 종류로, 인간의 뇌처럼 서로 연결된 노드(뉴런)와 여러 층을 가진 인공신경망을 사용해 더 복잡한 패턴을 다룬다. 적은 라벨 데이터와 많은 비라벨 데이터를 함께 쓰는 준지도학습도 가능하다. 생성형 AI는 바로 이 딥러닝의 하위 집합이며, 대형 언어모델 역시 같은 계보에 속한다.

모델은 크게 판별형과 생성형으로 나뉜다. 판별형은 데이터의 특징과 라벨의 관계를 배워 ‘개냐 고양이냐’를 분류한다. 생성형은 데이터의 결합 확률분포를 학습해 ‘개 이미지’ 자체를 새로 만들어낸다. 강의는 출력이 숫자·분류·확률이면 생성형이 아니고, 출력이 자연어·이미지·오디오 같은 새 콘텐츠이면 생성형이라는 간단한 구분법을 제시한다.

생성형 AI의 힘은 2018년 자연어처리 혁명을 일으킨 트랜스포머(인코더-디코더 구조)에서 나온다. 방대한 데이터로 사전학습한 파운데이션 모델은 감성분석·이미지 캡션·객체인식 등 다양한 작업에 미세조정해 쓸 수 있다. 강의는 PaLM·Bard 같은 모델과 Vertex AI의 모델 가든, 생성형 AI 스튜디오, 코드 없는 앱 빌더, 코드 생성 활용 사례까지 소개한다.

주요 인사이트

• ‘생성형 AI’는 기존 콘텐츠로부터 학습(훈련)해 통계 모델을 만든 뒤, 프롬프트가 주어지면 기대되는 응답을 예측해 새 콘텐츠를 만드는 기술로 정의된다.
• 언어 생성 모델은 본질적으로 ‘패턴 매칭 시스템’으로, 학습 데이터의 패턴을 익혀 다음에 올 내용을 예측한다.
• 환각(hallucination)은 데이터 부족, 잡음 섞인 데이터, 맥락·제약 부족 등에서 비롯되며 출력의 신뢰성을 떨어뜨린다.
• 입력·출력 형태에 따라 텍스트→텍스트, 텍스트→이미지, 텍스트→비디오/3D, 텍스트→작업(task) 등 다양한 모델 유형이 존재한다.
• 프롬프트 설계는 같은 모델에서도 원하는 출력을 끌어내는 핵심 기술이며, 코드 변환·디버깅·SQL 작성·문서화 등 실무에 바로 쓰인다.

자주 묻는 질문

관련 AI 소식