평균 분산 왜도 첨도 완전 정리: 분포를 구별하는 네 가지 모멘트를 게임 비유로 이해하기

핵심 메시지

• 평균은 '이 게임에 얼마를 내는 것이 공정한가'라는 질문의 답이다. 각 결과에 확률을 곱해 더한 값이며, 무게를 올려놓았을 때 균형이 잡히는 지점으로 볼 수 있다.
• 분산은 게임이 얼마나 위험한지를 말해준다. 평균이 같아도 ±1달러 게임과 ±100달러 게임의 위험은 다르며, 그 차이는 분포의 폭으로 나타난다.
• 평균과 분산이 모두 같아도 로또형 게임과 무보험 운전처럼 방향이 반대인 분포가 존재한다. 세제곱을 쓰는 왜도가 이 치우침을 잡아낸다.
• 네제곱을 쓰는 첨도는 '통제된 위험'과 '평소엔 잠잠하지만 가끔 큰 사건이 터지는' 분포를 구분한다. 확률이 작아도 거리가 멀면 네제곱이 그 존재를 크게 부각한다.
• 강의자는 데이터를 항상 중심화하고 표준편차로 나눠 스케일을 맞추라고 강조한다. 그렇게 하면 네 모멘트의 공식이 훨씬 단순해진다.

쉽게 이해하기

루이스 세라노는 딥러닝닷에이아이와 함께 만든 머신러닝 수학 강의의 일부로, 확률분포를 구별하는 네 가지 척도인 평균·분산·왜도·첨도를 하나의 흐름으로 설명한다. 각 척도를 추상적인 공식이 아니라 '어떤 게임에 얼마를 걸 것인가'라는 질문으로 바꿔 접근한다.

첫 번째는 평균이다. 공정한 동전을 던져 앞면이면 1달러, 뒷면이면 3달러를 받는 게임의 적정 참가비는 2달러이고, 이는 각 값에 확률을 곱해 더한 기댓값과 같다. 주사위에서 6이 나오면 12달러를 받고 아니면 0달러인 게임도 같은 계산으로 2달러가 나온다. 강의자는 확률을 무게로 보고 어디서 균형이 잡히는지를 찾는 그림으로 이 계산을 시각화한다.

두 번째는 분산이다. ±1달러 게임과 ±100달러 게임은 평균이 모두 0이지만 위험이 전혀 다르고, 그 차이는 분포의 폭에서 온다. 폭을 재려면 편차의 부호를 없애야 하는데, 절댓값은 꺾인 지점 때문에 미분이 어려워 제곱을 쓴다. 결과적으로 두 게임의 분산은 각각 1과 10,000으로 크게 갈린다.

세 번째는 왜도다. 1퍼센트 확률로 99달러를 따는 로또형 게임과, 1퍼센트 확률로 99달러를 잃는 무보험 운전은 평균도 분산도 같지만 치우친 방향이 정반대다. 세제곱을 쓰면 음수가 음수로 남고 멀리 떨어진 값이 크게 증폭되므로, 한쪽은 양의 왜도, 다른 쪽은 음의 왜도로 구분된다.

마지막은 첨도다. 항상 ±2달러가 오가는 게임과, 96퍼센트는 아무 일도 없지만 각각 2퍼센트 확률로 10달러를 얻거나 잃는 게임은 분산이 둘 다 4로 같다. 네제곱을 적용하면 앞은 16, 뒤는 400이 되어, 확률이 작아도 거리가 먼 꼬리를 가진 분포가 훨씬 큰 값을 갖는다. 강의자는 이를 '통제된 위험'과 '평소엔 잠잠하지만 돌발 변수가 있는' 상태로 나눠 부른다.

주요 인사이트

• 네 척도는 따로 외울 공식이 아니라 지수 1·2·3·4로 이어지는 하나의 계열이다. 중심화·스케일 조정을 먼저 해두면 각각 기댓값의 1승, 2승, 3승, 4승이라는 단순한 형태로 정리된다.
• 분산이 절댓값 대신 제곱을 쓰는 이유는 통계적 취향이 아니라 최적화 때문이다. 절댓값은 바닥에 꺾인 점이 생겨 미분이 곤란한 반면 제곱은 어디서나 매끄럽게 미분된다.
• 요약 통계가 같다고 분포가 같은 것은 아니다. 평균과 분산이 일치해도 왜도가 반대이면 손실 구조가 정반대이므로, 위험을 다룰 때는 고차 모멘트까지 봐야 한다.
• 첨도는 드물지만 큰 사건에 민감하다. 확률이 작아 분산에는 잘 드러나지 않는 꼬리도 네제곱을 거치면 값이 크게 벌어져 존재가 드러난다.
• 데이터를 평균 0, 분산 1로 맞추는 전처리는 관행이 아니라 계산을 단순하게 만드는 장치다. 정보를 잃지 않으면서 이후 수식을 훨씬 다루기 쉽게 만든다.

자주 묻는 질문

관련 AI 소식