U 계산 방법
엔트로피 H는 분포의 불확실성을 나타냅니다. H(Y|X)는 X를 안 뒤 Y에 대해 남는 불확실성입니다. 그 차이가 상호정보량이며, U는 이를 원래 불확실성에 대한 비율로 나타냅니다.
- H(Y) = −Σ p(y) · ln p(y)
- U(Y|X) = (H(Y) − H(Y|X)) ÷ H(Y)
- 대칭 U = 2 · (H(X) + H(Y) − H(X,Y)) ÷ (H(X) + H(Y))
계산 예시
초기 표 [[30, 15, 5], [12, 25, 13], [4, 14, 32]](n = 150)에서 U(행|열) = 0.154, U(열|행) = 0.154, 대칭 U = 0.154입니다. 한 변수를 알면 다른 변수의 불확실성이 약 15% 줄어듭니다(Cramér's V는 0.41).
쓸 때와 쓰지 말아야 할 때
최빈 범주가 모든 그룹에서 같아 람다가 쓸모없을 때 특히 유용합니다.
- 범주가 많은 명목 변수.
- 방향이 있는 질문: X가 Y를 얼마나 설명하는가.
- 값은 보통 Cramér's V보다 작고 직접 비교할 수 없습니다.
- 순서형 변수에서는 순서를 무시합니다.