중요도 샘플링 쉽게 이해하기: 몬테카를로 추정의 분산을 줄이는 확률분포 바꾸기 기법

핵심 메시지

• 머신러닝에서 구하고 싶은 답은 기댓값인 경우가 많은데, 차원이 높아지면 적분을 정확히 계산할 수 없다.
• 몬테카를로 방법은 분포에서 표본을 뽑아 함수값의 평균을 내는 것으로 기댓값을 근사한다. 표본 수가 늘수록 참값에 가까워진다.
• 표본 평균 자체가 확률변수라서 분포를 가진다. 중심극한정리에 따라 표본 수가 커지면 정규분포에 가까워지고, 그 분산은 함수값의 분산을 표본 수로 나눈 값이다.
• 중요도 샘플링은 다른 분포에서 표본을 뽑고 두 밀도의 비율로 보정해, 같은 기댓값을 편향 없이 더 작은 분산으로 추정한다.
• 이론상 좋은 제안 분포는 원래 밀도와 함수값을 곱한 절댓값이 큰 영역에서 확률이 높아야 하는데, 실제로 그런 분포를 고르는 일은 쉽지 않다.

쉽게 이해하기

영상은 기댓값 계산이라는 익숙한 문제에서 출발한다. 모델을 학습하거나 확률 질의에 답하거나 강화학습 에이전트를 훈련할 때, 결국 우리가 원하는 값은 어떤 함수의 확률 가중 평균이다. 문제는 변수의 차원이 높아지면 그 공간이 지수적으로 커져서 적분을 정확히 계산할 방법이 사라진다는 점이다.

몬테카를로 방법은 이 난관을 표본으로 우회한다. 분포에서 표본을 여러 개 뽑아 함수에 넣고 평균을 내면, 표본 수가 커질수록 그 평균이 참값에 다가간다. 발표자는 1차원 예시에서 곡선 아래 면적이 참값이고 표본 평균이 그 면적의 근사라는 점을 그림으로 확인한다.

여기서 중요한 관점 전환이 나온다. 표본을 다시 뽑으면 평균값도 달라지므로, 표본 평균은 그 자체로 분포를 가지는 확률변수다. 이 분포는 참 기댓값을 중심에 두며, 이런 성질을 편향이 없다고 말한다. 분포의 폭, 즉 분산은 함수값의 분산을 표본 수로 나눈 값이고, 중심극한정리에 따라 원래 분포가 무엇이든 표본 수가 커지면 정규분포에 가까워진다.

중요도 샘플링의 요령은 의외로 단순한 대수 조작이다. 적분 안에 새 분포를 곱하고 나누어 값을 바꾸지 않은 채 식을 다시 묶으면, 원래 분포에 대한 기댓값이 새 분포에 대한 기댓값으로 바뀐다. 대신 함수에는 두 밀도의 비율이 곱해진다. 새 분포는 원래 밀도와 함수의 곱이 0이 아닌 곳에서 항상 양수여야 한다는 조건만 지키면 된다.

이 형태 덕분에 우리는 원하는 분포에서 표본을 뽑을 수 있게 된다. 발표자의 예시에서 관심 함수는 원래 분포에서 아주 드물게 일어나는 영역에서만 크게 나타나는데, 그 결과 일반 몬테카를로 추정치는 실행할 때마다 크게 요동친다. 표본을 그 드문 영역 쪽으로 몰아 주는 분포로 바꾸고 밀도비로 보정하면, 같은 표본 수로도 훨씬 덜 흔들리는 추정치를 얻는다.

마지막은 솔직한 경고다. 최적의 제안 분포는 다루기 어려운 원래 밀도와 함수에 의존하므로, 실제로는 함수가 큰 영역에 대한 지식이나 원래 분포의 근사를 이용하는 기술에 가까운 작업이 된다. 특히 고차원에서는 밀도비가 표본마다 극단적으로 달라져 소수의 표본이 평균을 지배하는 실패가 흔하다.

주요 인사이트

• 몬테카를로의 핵심 주장은 '표본 평균이 곡선 아래 면적의 근사'라는 한 문장이고, 중요도 샘플링은 그 위에 얹힌 요령일 뿐이다.
• 추정량을 평가할 때는 값 하나가 아니라 그 값이 따르는 분포를 봐야 한다. 편향이 없다는 것과 분산이 작다는 것은 서로 다른 성질이다.
• 표본 수를 늘리면 분산이 표본 수에 반비례해 줄지만, 함수값 자체의 분산이 크면 필요한 표본 수가 감당하기 어려워진다. 분포를 바꾸는 접근이 여기서 힘을 발휘한다.
• 중요도 샘플링은 분산 감소만이 아니라, 원래 분포에서 표본을 뽑는 것 자체가 어렵거나 불가능할 때의 우회로이기도 하다.
• 제안 분포를 잘못 고르면 밀도비가 표본마다 크게 달라지고 대부분의 표본이 사실상 무시된다. 밀도비의 산포를 확인하는 것이 실패를 알아채는 신호가 된다.

자주 묻는 질문

관련 AI 소식