오즈와 확률의 차이, 베이즈 규칙·로지스틱 회귀·오즈비가 모두 비율 눈금을 택한 이유

핵심 메시지

• 확률과 오즈는 같은 정보를 다르게 적은 것이지만, 확률의 분모는 늘 1로 고정된 반면 오즈의 분모는 믿음이 바뀔 때마다 함께 움직인다.
• 가설과 그 부정에 대해 베이즈 규칙을 두 번 쓰고 나누면 골치 아픈 정규화 상수가 소거돼, 사후 오즈 = 사전 오즈 × 우도비라는 곱셈 하나만 남는다.
• 확률 눈금에서는 같은 5퍼센트포인트 이동도 위치에 따라 전혀 다른 크기다. 0.5→0.55는 오즈 1.2배지만 0.94→0.99는 6.3배다.
• 로그 오즈(로짓)를 쓰면 곱셈이 덧셈이 되어 같은 증거가 항상 같은 길이의 화살표로 보이고, 이 직선을 확률로 되돌린 모양이 바로 로지스틱 회귀의 S자 곡선이다.
• 오즈비는 결과가 흔할수록 부풀려지므로, '오즈가 세 배'라는 문구를 '회복하는 사람이 세 배'로 읽으면 대개 틀린다.

쉽게 이해하기

예보관이 비 올 확률 75퍼센트라고 말하고 도박사가 같은 하늘을 보며 3대 1이라고 적을 때, 두 사람은 다투는 것이 아니다. 두 숫자는 서로 정확히 변환되고 그 과정에서 잃는 정보도 없다. 그렇다면 불확실성을 다루는 기계들이 왜 굳이 백분율을 버리고 비율로 계산하는지가 이 영상의 질문이다. 베이즈 갱신은 오즈 위에 쓰이고, 로지스틱 회귀는 그 로그 위에 세워지며, 임상시험은 확률의 변화가 아니라 오즈의 비로 결과를 보고한다.

차이는 분모에 있다. 확률은 한 결과를 일어날 수 있는 모든 것과 비교하므로 분모가 언제나 1로 고정된다. 오즈는 같은 결과를 유일한 대안과 비교하므로 분모가 1-p가 되고, 믿음이 바뀔 때마다 함께 줄어든다. 그래서 확률 0.5, 0.9, 0.99, 0.999는 오즈로 1, 9, 99, 999가 된다. 뒤로 갈수록 확률상 차이는 1퍼센트포인트도 안 되지만 오즈로는 900이 벌어진다.

이 차이가 실제로 문제가 되는 지점은 증거로 믿음을 갱신할 때다. 베이즈 규칙을 가설 H와 그 부정에 대해 각각 쓴 뒤 한 줄을 다른 줄로 나누면, 계산이 비싼 분모 P(E)가 양쪽에서 똑같기 때문에 그대로 사라진다. 남는 것은 사후 오즈 = 사전 오즈 × 우도비다. 이 우도비에는 베이즈 인자라는 이름이 있고, 그것이 갱신의 전부다.

영상은 유병률 1퍼센트인 질병과 정확도 99퍼센트 검사로 이를 계산해 보인다. 사전 오즈는 1대 99, 베이즈 인자는 99이므로 한 번 양성이면 오즈는 1대 1, 즉 확률 50퍼센트가 된다. 같은 검사를 독립적으로 반복하면 오즈는 매번 99배가 되지만 확률 열은 1→50→99→99.99로, 세 번째부터는 1퍼센트포인트도 오르지 않는다. 검사가 약해진 것처럼 보이지만 네 번 모두 똑같은 검사였다.

여기에 로그를 한 번 씌우면 곱셈이 덧셈이 된다. 로그 오즈, 즉 로짓은 음의 무한대부터 양의 무한대까지 뻗어 확실성이 구석에 몰리지 않고, 확률 0.5에서 정확히 0이라 부호만 봐도 어느 쪽으로 기우는지 알 수 있다. 네 번의 검사는 -4.6에서 시작해 매번 4.6씩 더해지는, 길이가 같은 화살표 넷이 된다. 그리고 이 직선을 확률 눈금으로 되돌린 모양이 곧 시그모이드이며, 로지스틱 회귀는 x가 한 단위 늘 때 오즈에 e^β를 곱하는 모델이다.

주요 인사이트

• 분류기를 정확도 94퍼센트에서 99퍼센트로 밀어 올려 본 사람이라면, 같은 5퍼센트포인트라도 위치에 따라 난이도가 전혀 다르다는 것을 이미 몸으로 안다. 오즈 눈금은 그 체감을 숫자로 보여 준다.
• 확률이 증거의 화폐가 될 수 없는 이유는 간단하다. 매 검사가 49퍼센트포인트씩 더한다면 세 번째에서 148퍼센트가 나오는데, 그것은 확률이 아니다. 유계인 양은 고정된 증거를 계속 흡수할 수 없다.
• 로지스틱 회귀의 계수를 확률의 증가분으로 읽는 것은 흔한 오독이다. 계수는 오즈에 곱해지는 값이라, 같은 계수라도 곡선 가운데에서는 확률을 크게 움직이고 꼬리에서는 거의 움직이지 않는다.
• 회복률을 50퍼센트에서 75퍼센트로 올린 치료의 위험비는 1.5지만 오즈비는 3이다. 같은 효과를 1퍼센트에서 1.5퍼센트로 옮기면 오즈비는 1.51로 위험비와 거의 같아진다. 결과가 흔할수록 오즈비만 부풀어 오른다.
• 확실성에는 일정한 값이 매겨져 있다. 로그 오즈에서 0.5는 0, 0.9는 2.2, 0.99는 4.6, 0.999는 6.9로 간격이 늘 로그 10만큼이다. 9를 하나 더 얻는 데는 동전 던지기에서 90퍼센트로 올라가는 것과 똑같은 양의 새 증거가 든다.
• 두 검사를 곱해도 되는 것은 병에 걸렸는지가 고정된 조건에서 두 검사의 오류가 독립일 때뿐이다. 같은 혈액으로 같은 검사를 다시 돌리면 그 가정이 깨진다.

자주 묻는 질문

관련 AI 소식