開啟導覽
開啟開啟工作區

市場研究工具 · 指南 · 開放題

開放題回答的編碼與分析

開放題帶來問卷中最生動的回答,也帶來最多的工作。本指南從編碼簿、品質檢查一路走到交叉表,並說明哪些部分可以交給 AI,哪些責任仍在你身上。

01

好的編碼簿

編碼簿(代碼表、分類架構)規定要區分哪些主題,以及如何判斷。通常先讀過前 100 到 200 則回答再建立,之後只在控管下逐步擴充。

  • 每個代碼都有簡短名稱,以及寫明納入與排除規則的說明。
  • 代碼之間盡量不重疊;一則回答提到多個主題時就多重編碼。
  • 「其他」與「不知道/拒答」等剩餘類別也是獨立代碼,並盡量保持很小。
  • 用上層類別(net)整合相關代碼,例如把「送太慢」與「送到時已經冷掉」歸入「外送」。
  • 文字雲不能取代編碼簿:它計算的是字詞,不是意義。
02

在 Crosstabs 中的流程

開放式編碼在已儲存的本機專案中運作,並記錄每一個決定。除非你執行 AI 動作,回答文字不會離開瀏覽器。

  1. 1.儲存專案。 把分析儲存為本機專案,並選擇含有開放題回答的變數。
  2. 2.建立編碼簿。 逐行輸入主題,或重複使用既有的編碼簿。設定每則回答只能有一個主題,還是可以有多個。
  3. 3.歸類。 以人工方式歸類回答;每個決定都會記錄審核人與時間。
  4. 4.審核並核准。 確認審閱已完成,然後核准這次編碼。
  5. 5.套用。 核准的代碼會以變數形式加入專案。復原會還原到套用前的確切資料狀態。
03

什麼時候可以讓 AI 協助編碼

你可以選擇讓 AI 建議主題或預先編碼。這時,單一題目的回答會經由 crosstabs.com 的伺服器傳送給 OpenAI,而且只有在你明確確認這次執行之後才會傳送。回傳的是建議,不是完成的結果。

代碼定義、歸類是否完整、核准、解讀,以及敏感內容的處理,責任都在你身上。請像對待第二位編碼者的判斷一樣審查 AI 的建議,並事先確認回答中是否含有個人資料。

04

用 Cohen's kappa 衡量一致性

編碼簿是否可靠,要讓兩個人獨立為同一批回答編碼才看得出來。單純的一致率會高估品質,因為碰巧一致的判斷也算在內。Cohen's kappa 會扣除這部分的機率。

請雙重編碼一個子樣本(至少 30 則,越多越好),並依每個代碼兩人「有給/沒給」的 2×2 表計算 kappa。Landis 與 Koch(1977)把 0.61 到 0.80 稱為高度一致,0.80 以上稱為幾乎完全一致;表現較弱的代碼請把說明寫得更明確。

公式

κ = (pₒ − pₑ) ÷ (1 − pₑ)

其中
pₒ
觀察一致率,判斷相同的比例
pₑ
由邊際分布算出的機率期望一致率
05

分析代碼

多重編碼時,已編碼的開放題就是一題複選題:每個代碼報告提到它的受訪者比例,並以作答人數為基數。比例加總可以超過 100%,檢定則逐一代碼在獨立群體之間進行。

計算範例

計算範例:代碼「送達時間」的雙重編碼

兩個人獨立為 60 則回答編碼,題目是「外送服務哪裡需要改進」。對代碼「送達時間」,兩人有 53 則判斷一致,7 則不一致:觀察一致率 pₒ = 0.883。

由邊際分布算出的機率一致率為 pₑ = 0.540。因此 κ = (0.883 − 0.540) ÷ (1 − 0.540) = 0.746,95% 信賴區間為 0.57 到 0.92。依 Landis 與 Koch 的標準屬於高度一致,但區間偏寬。在倚賴結果之前,請把代碼說明寫得更精確,並增加雙重編碼的回答數。

代碼「送達時間」:兩位編碼者的判斷
編碼者 B:有給編碼者 B:沒給
編碼者 A:有給184
編碼者 A:沒給335

說明用的合成雙重編碼資料。kappa 與信賴區間以 Crosstabs 的 Cohen's kappa 計算器所用的同一個函數算出。

參考資料

延伸閱讀

  • Cohen, J. (1960). A coefficient of agreement for nominal scales. Educational and Psychological Measurement, 20(1), 37–46.

  • Landis, J. R. & Koch, G. G. (1977). The measurement of observer agreement for categorical data. Biometrics, 33(1), 159–174.

常見問題

常見問題

開放題的編碼簿要怎麼建立?

先讀一部分回答整理出主題,為每個主題寫下簡短說明與納入、排除規則,並加上「其他」等剩餘代碼。再用更多回答試用,只在控管下擴充。

要雙重編碼多少則回答?

至少 30 則,最好多得多,而且要隨機抽選。雙重編碼的回答太少時,kappa 的信賴區間會非常寬,少見的代碼幾乎無法評估。

kappa 要多少才夠?

Landis 與 Koch(1977)常用的分級中,0.61 到 0.80 為高度一致,0.80 以上為幾乎完全一致。會影響決策的代碼,至少應該達到高度一致。

我的開放題回答會被送給 AI 嗎?

只有在你選擇 AI 動作並確認執行時才會。屆時單一題目的回答會經由 crosstabs.com 的伺服器傳送給 OpenAI。人工編碼完全在瀏覽器中進行。

套用後的編碼可以撤銷嗎?

可以。復原會移除已編碼的變數,並還原到套用前的確切資料狀態。若之後資料集已經變更,為了不覆蓋後續的工作,復原會被拒絕。

開始為開放題編碼

開啟問卷檔案,把分析儲存為專案,就能在瀏覽器中開始人工編碼。雙重編碼的一致性可以用 Cohen's kappa 計算器檢查。

· 英文版