Calcul du kappa
pₒ est la part des cas sur la diagonale. pₑ est l’accord attendu si les deux juges classaient indépendamment, avec les mêmes répartitions marginales. Kappa rapporte l’excédent d’accord à l’excédent maximal possible.
- κ = (pₒ − pₑ) ÷ (1 − pₑ)
- pₑ = Σ (total de ligneᵢ · total de colonneᵢ) ÷ n²
- Repères de Landis et Koch (1977) : ≤ 0,20 faible, 0,21–0,40 passable, 0,41–0,60 modéré, 0,61–0,80 important, > 0,80 presque parfait.
Exemple
Le calculateur s’ouvre sur la matrice [[20, 5], [10, 15]] (n = 50). Les juges sont d’accord dans pₒ = 0,700 des cas, alors que le hasard en prévoirait pₑ = 0,500. On obtient κ = 0,400, IC à 95 % [0,146 ; 0,654], z = 2,89, p = 0,004 : un accord passable, nettement supérieur au hasard.
Quand l’utiliser, et quand l’éviter
Le kappa est la mesure de référence pour le codage de réponses ouvertes ou de diagnostics par deux personnes.
- Deux codeurs classant les mêmes cas dans les mêmes catégories.
- Valider un plan de codes avant l’exploitation des données.
- Pas pour plus de deux juges : utilisez le kappa de Fleiss ou l’alpha de Krippendorff.
- Avec des catégories très déséquilibrées, le kappa peut être faible malgré un fort accord (paradoxe du kappa).