打开导航
打开分析工作区

评分者间一致性

Cohen's kappa 计算器

两位评分者或编码员的一致程度,比随机猜测高出多少?

在线计算 Cohen's kappa

输入一致性矩阵:行 = 评分者 A,列 = 评分者 B,一致的个案位于对角线上。可以增加类别或修改类别名称。

一致性矩阵 行 = 评分者 A,列 = 评分者 B。一致评分位于对角线上。
评分者 A ↓ / 评分者 B → 合计
Yes25
No25
合计302050

Cohen's kappa (κ)

0.400

fair 一致性(Landis & Koch)· 95% 置信区间 0.146 至 0.654 · p = .004 与 κ = 0 比较

κ = 0.40, 95% 置信区间 [0.15, 0.65], N = 50

观察一致率 (pₒ)0.700
随机一致率 (pₑ)0.500
κ 的标准误0.1296
01

kappa 怎么计算

pₒ 是对角线上个案所占的比例,即观察一致率。pₑ 是两位评分者按各自的边际分布独立分类时预期的一致率。kappa 把“超出随机的一致”与“可能的最大超出量”相比。

  • κ = (pₒ − pₑ) ÷ (1 − pₑ)
  • pₑ = Σ(行合计ᵢ × 列合计ᵢ) ÷ n²
  • Landis 与 Koch(1977)的参考:≤ 0.20 轻微、0.21–0.40 一般、0.41–0.60 中等、0.61–0.80 高度、> 0.80 几乎完全一致。
02

示例

计算器打开时的矩阵是 [[20, 5], [10, 15]](n = 50)。两位评分者在 pₒ = 0.700 的个案上一致,随机预期一致率为 pₑ = 0.500。得到 κ = 0.400,95% 置信区间 [0.146, 0.654],z = 2.89,P = .004:按 Landis 与 Koch 的参考属于“一般”,但明显高于随机水平。

03

什么时候用,什么时候不用

kappa 是两人双编码开放题、诊断分类时的标准一致性指标。

  • 适用:两位编码员把同一批开放题回答归入同一套编码。
  • 适用:正式编码前检验编码表是否清晰。
  • 不适用:三位及以上评分者,应使用 Fleiss' kappa 或 Krippendorff's alpha。
  • 不适用:只看 kappa 而不看分布;某一类别极其常见时,一致率很高 kappa 也可能偏低(kappa 悖论)。

方法来源

参考资料与复核入口

  • Cohen, J. (1960). A coefficient of agreement for nominal scales. Educational and Psychological Measurement, 20(1), 37–46.

  • Landis, J. R., & Koch, G. G. (1977). The measurement of observer agreement for categorical data. Biometrics, 33(1), 159–174.

  • scikit-learn — sklearn.metrics.cohen_kappa_score

常见问题

先确认方法,再解释结果。

kappa 多少算好?

按 Landis 与 Koch,高于 0.60 为高度一致,高于 0.80 为几乎完全一致。开放题编码通常以 0.70 以上为目标。

为什么 kappa 比一致百分比低?

因为它扣除了随机一致。两个类别同样常见时,两位评分者即使随便猜,也会在约一半的个案上一致。

什么是 kappa 悖论?

某一类别非常常见时,pₑ 会变得很高,即使观察一致率很高,kappa 也可能偏低。因此应同时报告 pₒ。

计算器能算加权 kappa 吗?

不能,这里计算的是未加权的 Cohen's kappa。类别有顺序时,加权 kappa 可能更合适。

输入的数据会上传到服务器吗?

不会。计算器只在当前浏览器标签页中计算你输入的数值,不会把它们发送到任何服务器,也不需要注册。

在完整数据上运行同样的分析。

源文件在浏览器本地处理,无需注册。基础交叉分析支持中文;部分专业功能和文档导出说明仍为英文。

打开工作区