머신러닝과 AI 기초 완벽 정리: 분류·의사결정 경계·인공신경망·딥러닝까지 쉽게 이해하기

핵심 메시지

• 머신러닝은 데이터에서 규칙을 학습해 예측과 판단을 내리는 알고리즘 집합이며, 더 넓은 목표인 인공지능(AI)의 한 부분이다.
• 분류 문제는 특징(feature) 값으로 대상을 구분하며, 라벨이 붙은 학습 데이터로 의사결정 경계를 찾아 정확도를 높인다.
• 인공신경망은 입력에 가중치를 곱하고 합산·편향·활성화 함수를 거치는 뉴런을 층으로 쌓은 구조이며, 층이 깊어지면 딥러닝이 된다.
• 현재 실용화된 AI는 특정 작업만 잘하는 약한(좁은) AI이며, 인간처럼 범용적인 강한 AI는 아직 구현되지 않았다.

쉽게 이해하기

컴퓨터는 방대한 데이터를 저장·정리·검색하는 데 뛰어나지만, 머신러닝은 여기서 한 걸음 나아가 데이터를 근거로 스스로 판단을 내리게 한다. 스팸 메일 여부, 부정맥 진단, 다음에 추천할 영상 같은 물음에 답하는 것이 대표적이다. 이런 프로그램은 유용하지만 인간과 같은 지능이라기보다, 더 야심 찬 목표인 AI 안에 포함된 학습 기법으로 이해된다.

영상은 나방을 루나 나방과 엠퍼러 나방으로 구분하는 분류 문제로 원리를 설명한다. 날개폭과 질량이라는 두 특징을 쓰고, 곤충학자가 라벨을 붙인 학습 데이터로 두 종을 나누는 의사결정 경계를 긋는다. 경계를 어디에 두느냐에 따라 오분류가 생기며, 맞고 틀림을 정리한 표를 혼동 행렬이라 부른다. 어떤 선도 100% 정확할 수 없어, 알고리즘의 역할은 정답을 최대화하고 오류를 최소화하는 것이다.

특징이 늘어나면 2차원 선은 3차원 평면으로, 나아가 사람이 다룰 수 없는 수백·수천 차원의 초평면으로 확장된다. 결정 트리, 여러 트리를 묶은 랜덤 포레스트, 통계에 뿌리를 둔 서포트 벡터 머신 등 수백 가지 기법이 이 경계를 찾는 데 쓰인다.

통계에 기반하지 않은 대표적 접근이 인공신경망이다. 뇌의 뉴런에서 영감을 받아, 각 인공 뉴런은 입력에 가중치를 곱해 더하고 편향을 적용한 뒤 활성화 함수로 최종 값을 낸다. 처음엔 무작위였던 가중치와 편향을 학습 데이터로 조금씩 조정하며 정확도를 높이는데, 이는 인간의 학습과 닮았다. 은닉층을 여러 겹 쌓으면 딥러닝이 되고, 강력한 GPU 덕분에 최근에야 실용화됐다.

이렇게 정교해진 알고리즘도 나방 분류나 얼굴 인식, 번역처럼 한 가지 일만 잘하는 약한(좁은) AI에 머문다. 인간처럼 두루 똑똑한 강한 AI는 아직 없지만, 위키피디아 같은 방대한 디지털 지식과, 스스로와 수백만 번 대국하며 배운 알파고식 강화학습이 그 가능성을 시사한다.

주요 인사이트

• 머신러닝의 핵심은 복잡한 현실을 '특징'이라는 값으로 단순화하고, 라벨된 데이터로 경계를 학습하는 것이다.
• 정확도는 학습 데이터에서의 정답률로 측정되며, 완벽한 분리가 불가능하므로 오류를 얼마나 줄이느냐가 관건이다.
• 딥러닝의 '깊이'는 은닉층의 개수를 뜻하며, 더 깊은 신경망일수록 더 많은 연산과 데이터, 그리고 빠른 GPU를 필요로 한다.
• 강화학습은 시행착오로 무엇이 통하는지 스스로 배우는 방식으로, 사람이 걷기를 익히는 과정과 유사하며 알파고의 강함을 만든 원리다.

자주 묻는 질문

관련 AI 소식