Erreur type commune pour le test, séparée pour l’intervalle
Sous l’hypothèse nulle, les deux groupes ont la même proportion : le test utilise donc l’erreur type calculée avec la proportion commune. L’intervalle de confiance décrit l’écart observé et utilise, dans sa forme la plus simple, l’erreur type non regroupée (intervalle de Wald).
Avec de petits échantillons ou des proportions extrêmes, l’intervalle hybride de Newcombe, construit à partir de deux intervalles de Wilson, est un meilleur choix ; le calculateur affiche les deux. Si un effectif théorique est inférieur à 5 environ, rapportez la valeur p du test exact de Fisher.
- x, n : succès et taille d’échantillon de chaque groupe, p = x ÷ n ; p̄ = (x_A + x_B) ÷ (n_A + n_B).
- z² est le χ² de Pearson du tableau 2×2 (sans correction de continuité, ddl = 1).
- h de Cohen = 2·asin√p_B − 2·asin√p_A (0,2 petit, 0,5 moyen, 0,8 grand) ; hausse relative = p_B ÷ p_A − 1.
Exemple (données synthétiques)
Dans le baromètre synthétique d’une marque de snacks (données d’exemple générées par programme, pas de vrais répondants), 115 des 203 répondants de 18 à 34 ans (groupe B) ont une intention d’achat « top 2 » pour la saveur citron vert-piment, soit 56,7% ; chez les 55 ans et plus (groupe A), c’est 51 sur 179 = 28,5%.
L’écart est de 28,2 points ; proportion commune 43,5%, z = 5,54, p < 0,001 (χ² = 30,70). L’intervalle de Newcombe à 95 % de l’écart va de 18,3 à 37,2 points, la hausse relative est de +99% et h de Cohen = 0,58.
Pour détecter un écart plus modeste de 5 points sur la même base de 28,5%, avec 80 % de puissance et α = 0,05 (bilatéral), il faudrait environ 1 342 répondants par groupe.
Les groupes doivent être indépendants
Le test suppose qu’aucun répondant n’appartient aux deux groupes.
- Comparer deux sous-groupes d’une enquête (femmes et hommes) ou deux variantes d’un test A/B.
- Calculer la taille d’échantillon de la prochaine vague ou du prochain test.
- Pas pour un sous-groupe contre l’ensemble dont il fait partie : comparez-le à « tous les autres ».
- Pas pour deux réponses des mêmes personnes ou un même échantillon mesuré deux fois : utilisez le test de McNemar.
- Pas pour plus de deux groupes ou modalités : utilisez le test du khi-deux.
Comment lire le résultat
Une valeur p inférieure à α signifie que, si les proportions étaient égales dans la population, un écart aussi grand serait inhabituel. L’intervalle de confiance indique la taille plausible de l’écart et le h de Cohen sa portée pratique : avec de très grands échantillons, des écarts minimes deviennent significatifs. Décidez d’un test unilatéral avant de regarder les données, et n’arrêtez pas un test A/B dès que p < 0,05 : consulter les résultats à répétition gonfle le taux de faux positifs.