证据链接必须由应用验证,而不是由模型自我声明
每项单元格证据应包含稳定证据 ID、上下文哈希、行列坐标与标签、计数、行列百分比、期望频数、残差、未加权基数、警告、筛选、权重、波次和表格身份。模型只负责生成文字;应用负责把链接解析回实际计算结果。
验证应逐条靠近事实主张。链接格式无效、标签不符、缺少行列名称或指向错误坐标时,应默认拒绝该模型文字,而不是只显示一个轻微警告。Crosstabs 会隐藏不符合证据契约的回答,并只用已验证计算单元格生成确定性替代摘要。
- 输入:限定后的聚合表格、统计量、警告与明确披露的筛选或权重。
- 证据:稳定上下文哈希加单元格坐标,而不是模型编造的网页式脚注。
- 执行:每个引用都要匹配同一主张中明确写出的行标签与列标签。
- 失败:证据不匹配即默认拒绝,不把可疑文字当成已接受分析。
把只读回答与项目修改分成两个权限边界
解释交叉表不应自动获得修改项目的权限。AI 回答保持只读;要求“新增 Banner 和三张表”时,系统应生成类型化提案,列出每项操作、理由、证据、风险、依赖、修改前后状态和影响对象,而不是直接写入项目。
人工审批可以选择部分操作,但依赖必须完整。例如一张新表依赖一个新建的 multibanner 时,不能只批准表而拒绝其依赖。研究人员也可以明确拒绝整份提案,未审批内容不会执行。
审批必须绑定状态,并在执行前重新检查冲突
创建提案时记录受治理项目范围的哈希,预览与审批都针对这个确切状态。执行前再次计算哈希;如果项目在审批后发生变化,原决定不再授权新的状态,系统必须阻止应用并要求重新预览和人工审批。
获批操作应原子执行,避免项目停留在只完成一半的状态。审计记录保存提案证据、供应商、实际服务模型、提示版本、已批准与已拒绝操作、审批人与执行人、时间,以及修改前后哈希。
回退要提供补救,也要保护后来工作
执行前保存快照,并记录执行后的完整性哈希。只有当前项目仍与该哈希一致时,精确回退才不会误删其他编辑;此时可以恢复快照,同时保留原始提案与审批历史。
如果后来已有修改,系统会拒绝精确撤销,因为恢复旧快照会覆盖后续工作。安全做法是保留历史并创建新的、可审批的向前变更。‘可撤销’不是无条件时间倒流,而是可验证且不破坏数据的补救机制。
当前 Crosstabs 产品边界与待完善部分
当前 Workspace 的聚合 AI 分析通过 Vercel AI Gateway 发送已披露表格上下文,不发送源受访者行或文件名。系统会验证单元格引用;不匹配的模型文字被隐藏,并改用已计算单元格构建确定性摘要。供应商路由或备用模型可以改善可用性、成本或延迟,但不会自动证明统计结论正确。
可见的 Governed AI changes 面板只发送不含受访者行的项目元数据,并支持创建 section、multibanner、table 或改变 table status 的类型化提案。它提供预览、依赖安全的选择、人工审批、拒绝、原子应用、冲突检查和回退;它不能任意重编码、修改筛选或权重、编辑受访者行或直接导出报告。
项目变更计划持久保存在本地项目图中,包含证据、供应商、实际模型、提示版本、执行者、时间、状态、哈希与回退快照。AI 回答活动列表只是会话级记录,不是持久项目审计日志。开放题编码使用另一套需要审核、证据记录和回退的工作流。
持续测量控制是否有效
除了模型回答质量,还应跟踪证据完整性失败、被隐藏的回答、提案验证失败、人工审批与拒绝、部分审批、过期状态冲突、实际应用、撤销尝试、被拒绝的撤销、用户更正,以及供应商与模型版本。提示、模型、路由或统计输出契约变化后,应重新运行有代表性的表格与高风险边界测试。
NIST AI RMF 将人工监督、系统文档、持续监控和风险响应视为贯穿生命周期的活动。NIST Playbook 还建议保留历史、审计日志、人工覆盖统计和具名责任人的 go/no-go 决定;这些记录比单独显示一个“AI 已审核”徽章更可验证。