머신러닝 평가 지표 정리: 정확도·정밀도·재현율·F1·MAE·RMSE·R²

핵심 메시지

• 모델을 데이터로 학습시키는 것만으로는 부족하다. 실제 세계에서 잘 동작할지 알려면 평가 지표로 성능을 측정해야 한다.
• 분류에서 정확도(accuracy)는 단순하고 비교하기 쉽지만 지나치게 단순화한다. 그래서 정밀도(precision)와 재현율(recall)로 더 자세히 봐야 한다.
• 정밀도는 '내가 양성이라 한 것 중 실제 양성 비율', 재현율은 '실제 양성 중 내가 잡아낸 비율'이다. 서로 다른 관점을 주므로 대개 함께 본다.
• F1 점수는 정밀도와 재현율의 조화평균이며, PR 곡선·ROC 곡선·AUC와 함께 보면 모델 성능을 더 정확히 이해할 수 있다.
• 회귀에서는 MAE·MSE·RMSE로 오차를 재고, R²(결정계수)로 모델이 데이터에 얼마나 잘 맞는지 본다. 문제 유형에 맞는 지표를 고르는 것이 핵심이다.

쉽게 이해하기

이 영상은 머신러닝 모델을 학습시킨 뒤 반드시 거쳐야 할 단계, 즉 평가(evaluation)를 다룬다. 학습만으로는 모델이 개선이 필요한지, 실제 환경에서 잘 작동할지 알 수 없다. 그래서 문제 유형에 따라 알맞은 평가 지표를 골라 성능을 수치로 확인해야 한다.

분류 문제의 대표 지표는 정확도다. 맞힌 개수를 전체로 나눈 값으로, 하나의 숫자라 이해와 비교가 쉽다. 그러나 지나치게 단순화하는 약점이 있어, 정밀도와 재현율을 함께 본다. 정밀도는 양성으로 예측한 것 중 실제 양성의 비율이고, 재현율은 실제 양성 가운데 모델이 잡아낸 비율이다. 두 지표는 서로 다른 시각을 주기 때문에 짝지어 쓰며, 모델의 무엇이 잘못됐는지 파악하는 데 도움을 준다. 클래스가 셋 이상이면 각 클래스별로 값을 구해 평균 내거나 중요도에 따라 가중 평균을 낸다.

F1 점수는 정밀도와 재현율을 하나의 숫자로 합친 조화평균이다. 다만 단독보다는 PR 곡선이나 ROC 곡선과 함께 보는 것이 좋다. PR 곡선은 정밀도와 재현율의 관계를, ROC 곡선은 참양성률과 거짓양성률의 관계를 보여준다. 두 곡선 아래 넓이인 AUC는 클수록 좋은 성능을 뜻한다. 분류의 마지막 지표로는 두 확률분포의 거리를 재는 교차 엔트로피(cross-entropy)가 있고, 문제에 따라 이진·범주형·희소 범주형 교차 엔트로피를 쓴다.

회귀 문제에서는 먼저 평균절대오차(MAE)를 쓴다. 오차의 절댓값을 평균한 값으로, 양수와 음수 오차가 상쇄되는 것을 막는다. 평균제곱오차(MSE)는 오차를 제곱해 평균하므로 큰 오차의 영향을 부풀린다. 다만 해석이 어려워, 제곱근을 취한 평균제곱근오차(RMSE)를 써서 MAE와 같은 척도로 되돌려 비교하기 쉽게 만든다.

R²(결정계수)는 모델이 데이터에 얼마나 잘 맞는지를 나타낸다. 모든 점이 모델의 곡선 위에 완벽히 놓이면 1, 전혀 맞지 않으면 0이며, 그 사이 값을 갖는다. 회귀의 마지막으로 코사인 유사도가 소개되는데, 두 벡터가 얼마나 비슷한지를 재어 예측값과 실제값을 비교한다. 영상은 이들이 전부가 아니며, scikit-learn·Keras·TensorFlow 같은 라이브러리 문서를 참고해 프로젝트에 맞는 지표를 미리 정하라고 조언한다.

주요 인사이트

• 정확도는 하나의 숫자라 편하지만, 클래스 불균형 등에서 모델을 오판하게 만들 수 있어 정밀도·재현율로 보완해야 한다.
• 정밀도와 재현율은 같은 모델의 서로 다른 얼굴이다. 함께 보면 어디서 오류가 나는지 진단하고 개선 방향을 잡기 쉽다.
• MSE는 큰 오차를 제곱으로 부풀려 벌점을 주지만 해석이 어렵다. RMSE는 그 장점을 유지하면서 원래 척도로 되돌려 준다.
• 다중 클래스에서는 지표 계산 방식(단순 평균/가중 평균)이 결과를 바꾸므로, 라이브러리 문서를 확인해 문제에 맞는 방식을 골라야 한다.
• 평가 지표 선택은 프로젝트 시작 전에 정해야 한다. 어떤 지표를 목표로 삼을지 미리 조사해 두는 것이 좋다.

자주 묻는 질문

관련 AI 소식