K-평균 군집화 완벽 정리: 작동 원리와 군집 개수(K)를 고르는 엘보 기법까지 한눈에

핵심 메시지

• K-평균 군집화는 사람이 눈으로 나누지 않아도 컴퓨터가 비슷한 데이터끼리 자동으로 묶게 해주는 비지도 학습 기법이다.
• 먼저 군집 개수 K를 정하고, 무작위로 고른 초기 중심에 가장 가까운 점들을 배정한 뒤 각 군집의 평균으로 중심을 갱신하는 과정을 군집이 더 바뀌지 않을 때까지 반복한다.
• 한 번의 결과가 최선이라는 보장이 없으므로, 서로 다른 시작점으로 여러 번 돌려 군집 내 변동(분산)이 가장 작은 결과를 고른다.
• 적절한 K는 K를 1부터 늘려가며 변동 감소폭을 그린 '엘보(팔꿈치) 그래프'에서 꺾이는 지점으로 찾는다.
• 거리는 유클리드 거리로 계산하므로 1차원 선뿐 아니라 2차원 좌표나 여러 축의 고차원 데이터, 히트맵에도 똑같이 적용된다.

쉽게 이해하기

StatQuest의 조시 스타머가 K-평균 군집화의 원리를 단계별로 풀어 설명한다. 출발점은 간단한 질문이다. 선 위에 찍힌 데이터를 세 덩어리로 나눠야 한다면, 사람 눈에는 뻔해 보여도 컴퓨터가 같은 결과를 스스로 찾게 하려면 어떻게 해야 할까. K-평균 군집화가 바로 그 방법이다.

절차는 명확하다. 첫째, 찾고 싶은 군집 개수 K를 정한다(예시에서는 K=3). 둘째, 서로 다른 데이터 점 K개를 무작위로 골라 초기 군집 중심으로 삼는다. 셋째와 넷째, 각 점에서 모든 중심까지의 거리를 재고 가장 가까운 중심의 군집에 배정한다. 다섯째, 각 군집의 평균을 구해 새 중심으로 삼고, 이 평균을 기준으로 다시 묶는다. 군집이 더 이상 바뀌지 않으면 종료한다.

문제는 첫 시도가 형편없을 수 있다는 점이다. K-평균은 어떤 묶음이 최선인지 미리 알지 못하므로, 각 군집 내부의 변동을 모두 더해 품질을 수치로 기록해 둔다. 그런 다음 다른 무작위 시작점으로 전체 과정을 여러 번 되풀이하고, 군집 내 변동의 합이 가장 작은 결과를 최종 답으로 돌려준다.

K를 몇으로 둘지가 늘 자명하지는 않다. 그래서 K를 1부터 차례로 늘려보며 군집 내 변동을 비교한다. K가 커질수록 변동은 줄지만, 점 하나당 군집 하나가 되면 변동은 0이 되어 의미가 없어진다. 변동 감소폭을 K에 따라 그리면 특정 지점에서 급격히 줄다가 완만해지는데, 이 꺾이는 '팔꿈치'가 적절한 K다.

마지막으로 영상은 적용 범위를 넓힌다. K-평균은 계층적 군집화와 달리 '몇 개로 나눠라'라는 지시에 맞춰 묶는다. 또 데이터가 선이 아니어도 좋다. 2차원에서는 유클리드 거리가 피타고라스 정리와 같고, 축이 늘어도 제곱합의 제곱근으로 거리를 계산하면 된다. 실제로는 데이터를 그림으로 그릴 필요 없이 점들 사이 거리만 구하면 히트맵 같은 데이터도 똑같이 군집화할 수 있다.

주요 인사이트

• K-평균의 핵심은 '배정 → 중심 갱신'을 반복하는 단순한 순환이며, 이 반복이 멈추는 지점이 곧 군집화 결과다.
• 한 번의 실행 결과를 믿지 말고 여러 번 돌려 군집 내 변동이 최소인 것을 고르는 것이 무작위 초기값의 위험을 줄이는 방법이다.
• 엘보 그래프는 '변동을 더 줄이려고 군집을 무한히 늘리는' 함정을 피하게 해주는 실용적 기준이다.
• 거리 계산만 정의되면 차원 수와 무관하게 동일한 알고리즘이 작동하므로, 선·평면·고차원·히트맵을 한 틀로 다룰 수 있다.

자주 묻는 질문

관련 AI 소식