U 的計算方式
熵 H 衡量一個分配的不確定性。H(Y|X) 是知道 X 之後對 Y 剩下的不確定性。兩者之差就是交互資訊,U 把它表示為原本不確定性的比例。
- H(Y) = −Σ p(y) · ln p(y)
- U(Y|X) = (H(Y) − H(Y|X)) ÷ H(Y)
- 對稱 U = 2 · (H(X) + H(Y) − H(X,Y)) ÷ (H(X) + H(Y))
範例
以開啟時的表格 [[30, 15, 5], [12, 25, 13], [4, 14, 32]](n = 150)計算,U(列|欄) = 0.154,U(欄|列) = 0.154,對稱 U = 0.154。知道一個變數後,另一個變數的不確定性約減少 15%(Cramér's V 為 0.41)。
什麼時候使用,什麼時候不要用
當各組最常見類別相同、lambda 失效時特別有用。
- 類別很多的名目變數。
- 有方向的問題:X 能解釋 Y 多少?
- 數值通常比 Cramér's V 小,不能直接比較。
- 用於有序變數時會忽略順序。