코시 분포는 왜 평균이 없을까: 큰 수의 법칙이 통하지 않는 조건과 중앙값이라는 대안

핵심 메시지

• 정규분포에서 뽑은 표본의 누적 평균은 값이 하나로 모이지만, 코시 분포에서 뽑은 표본의 평균은 표본을 아무리 늘려도 계속 튀며 안정되지 않는다.
• 코시 분포의 밀도는 1/(π(1+x²))로 정규분포처럼 종 모양이고 중심 근처에서는 거의 구별되지 않는다. 차이는 꼬리에서 나타나며, 코시의 꼬리는 1/x² 수준으로만 얇아진다.
• 평균을 정의하는 적분이 발산하기 때문에 코시 분포는 평균이 '존재하지 않는다'. 큰 수의 법칙은 평균이 유한할 때만 수렴을 보장하므로 이 경우에는 아무것도 말해 주지 않는다.
• 독립적인 코시 표본을 여러 개 평균해도 결과는 다시 표준 코시 분포다. 표본 하나와 분포가 완전히 같아서 평균을 낸다는 행위 자체가 정보를 좁혀 주지 못한다.
• 코시 분포에도 중심은 분명히 있다. 평균이라는 도구가 그 중심을 찾기에 부적합할 뿐이며, 중앙값으로 바꾸면 누적값이 깔끔하게 안정된다.

쉽게 이해하기

동전을 만 번 던지면 앞면 비율이 1/2 근처로 잦아든다. 표본을 늘리면 평균이 안정된다는 이 경험은 큰 수의 법칙이라는 이름까지 얻었고, 데이터를 다루는 사람이 무의식적으로 기대는 전제이기도 하다. 그런데 이 기대를 정면으로 거부하는 분포가 있다.

코시 분포에서 표본을 계속 뽑아 누적 평균을 그려 보면, 정규분포에서 뽑은 값의 평균선은 예상대로 한 값으로 내려앉는 반면 코시의 평균선은 계속 위아래로 튀며 어디에도 정착하지 않는다. 데이터를 더 모으는 것이 아무 도움이 되지 않는다는 뜻이다. 겉모습만 보면 이런 결과를 예상하기 어렵다. 코시의 밀도 함수는 1/(π(1+x²))로, 0에서 정점을 가지는 매끄럽고 대칭적인 종 모양이라 중심 부근에서는 정규분포와 거의 쌍둥이처럼 보인다.

차이는 꼬리에 숨어 있다. 정규분포의 곡선은 중심을 벗어나면 놀라운 속도로 0에 가까워지지만, 코시의 꼬리는 1/x² 정도로만 줄어들어 중심에서 멀리 떨어진 곳에서도 두께를 유지한다. 꼬리가 두껍다는 말은 아주 큰 값이 생각만큼 드물지 않다는 뜻이고, 바로 이 한 가지 사실이 나머지를 무너뜨린다.

평균은 분포의 균형점, 즉 x에 밀도를 곱해 적분한 값이다. 코시에서 이 피적분 함수는 x가 커지면 1/(πx)처럼 행동하는데, 1/x 아래 면적은 조화급수가 발산하는 것과 똑같은 방식으로 한없이 커진다. 정규분포에서는 이 값이 유한하게 수렴하지만 코시에서는 끝내 수렴하지 않아, 평균을 정의해야 할 적분이 발산하고 평균은 존재하지 않는다. 독립적인 코시 표본을 몇 개 평균해도 결과가 다시 표준 코시 분포라는 항등식도 같은 사정을 보여 준다.

이런 분포는 표준정규 확률변수 두 개의 비율에서 자연스럽게 나온다. 하나를 다른 하나로 나눈 값은 원점에서 그 점까지 이은 직선의 기울기인데, 점들의 구름이 완벽하게 둥글어 모든 방향이 똑같이 나올 수 있으므로 기울기는 사실상 어떤 값이든 될 수 있고 분모가 0 근처일 때 비율이 폭발한다. 그렇다고 고장난 분포로 볼 필요는 없다. 정점이 있는 자리에 멀쩡한 중심이 있고 평균이 그 중심을 찾기에 잘못된 도구일 뿐이어서, 중앙값으로 바꾸면 누적값이 깔끔하게 안정된다. 큰 수의 법칙은 자연법칙이 아니라 평균이 존재해야 한다는 단서가 붙은 약속이었다.

주요 인사이트

• 평균이 수렴하지 않는 현상은 표본이 부족해서 생기는 문제가 아니라 분포 자체의 성질이다. 이런 경우 데이터를 더 모으는 것으로는 해결되지 않는다.
• 분포의 중심 모양이 비슷하다고 같은 통계량을 써도 되는 것은 아니다. 정규분포와 코시는 중심 부근이 거의 같지만 꼬리 두께가 달라 결론이 정반대로 갈린다.
• 두꺼운 꼬리는 큰 값이 '드물지 않다'는 뜻이므로, 이상치를 예외로 처리하는 습관이 오히려 분포의 본질을 놓치게 만들 수 있다.
• 정규분포 두 개의 비율이 코시가 된다는 사실은, 나눗셈이 들어간 지표에서 분모가 0에 가까워질 때 극단값이 구조적으로 발생함을 보여 준다.
• 중심을 요약하는 방법이 평균만 있는 것은 아니다. 평균이 정의되지 않아도 중앙값 같은 통계량은 안정적으로 작동한다.

자주 묻는 질문

관련 AI 소식