English course · 简体中文版(扩展课程)

人工智能与制度 · 第 8 课,共 8 课

让论证经得起最有力的反对意见

区分说明性案例、编码一致性与因果识别。

建议约 75 分钟,包括练习。

学习目标

  • 区分说明性案例、编码一致性与因果识别。
  • 当另一种解读改变了某项主张表面上的证据支持时,修订该主张。
  • 完成分析实训,并在结构化研讨中为修订后的建议作出论证。

配套阅读 Better Answers, Worse Decisions(《更好的答案,更差的决策》,暂译): 证据说明;第14章;结论. 该书另行销售。本课程不提供书稿或章节下载。

本课讲授

让主张与证据相匹配

一个鲜明的案例可以说明某种机制有可能存在,并揭示一个过程是如何运作的。但它不能证明该机制有多普遍。经过选择的比较,可以使问题更加明确,却未必能识别因果效应。一项随机化任务实验,可以支持其测试情境中的因果主张,但制度层面和长期问题仍可能悬而未决。首先应说明证据属于哪种类型,以及它最多能够支持什么结论。

要将观察、解释和方案建议区分开来。一份文件可能表明有人提出了异议。该异议是否构成了有效的独立质疑,可能需要作出判断。一项新的治理设计能否防止问题再次发生,则是更进一步的主张。如果没有明确论证,就在这些层次之间跳转,制造的只是确定性的表象,而不是证据。

将分歧视为信息

两名编码者可能在大多数项目上一致,却在决定结论的少数单元格上存在分歧。应报告分歧出现在哪里,而不只是给出一个总体百分比。应测试:分别采用每一套保留的编码,以及一项有充分依据的裁定规则时,研究关注的实质性关联是否仍然成立。选择规则应当基于证据理由,而不是为了保住所偏好的结果。

基于模型的重新编码练习,不等于独立的人工验证。共同的训练来源或模型谱系,可能导致错误相关。即使是真正独立的人类编码者达成一致,也不能使经过选择的样本具有代表性,更不能证明因果关系。这些局限并不意味着必须放弃概念框架,而是要求缩小实证主张的范围,并说明还需要哪些观察来支持或挑战它。

为设计辩护,而不是宣称发现了制度定理

即使尚未确立普遍适用的因果规律,纠错架构也可以是一项有用的方案。为它辩护时,应明确它针对的失误、运作机制、成本,以及应在什么条件下修订它。还应纳入一个有力的反例:例如,标准化提高了可靠性、独立检查几乎没有增加价值,或快速自动化扩大了服务可及性的情境。

因此,你的综合项目应包含一项决策和一份研究计划,而不仅仅是罗列优点。应说明哪些控制措施你会立即实施,哪些会先测试,哪些会拒绝采用。要始终区分完成一项练习与完成经验证的真实部署。最终成果应是一套其他人能够检查、质疑并改进的论证。

先建立证据台账,再写结论

设置五列:主张、观察、解释、替代解释,以及与决策的关系。对于综合项目中准备写出的每一句话,判断哪一列提供了它的依据。“两位复核者达成一致”是一项观察;“他们的一致意见构成了独立佐证”,则额外加入了对证据生成过程的主张。“机构应保留单独的检查”,是一项建议,需要论证收益、成本和可行性。

将虚构的十个案例编码示例扩展为合成数据设计练习;这里并未提供真实研究数据集。自行创建一个十行表格,让两名编码员分别对每个案例的六项能力作二元评分;安排恰好六个评分不一致,而且全部位于“叫停权限”这一列。为每个案例再添加一个明确注明为虚构的二元结果变量,并将关联定义为具有叫停权限的案例与不具有叫停权限的案例之间的结果发生比例之差。设计评分时,应确保在每名编码员的编码下,两组均有案例。保留两份评分表,列出六个存在争议的单元格,并在计算结果之前确定裁决规则。分别根据两名编码员的评分以及裁决后的评分报告关联。你编造的结果变量是教学构造,不是制度效果的证据。如果实证结论随编码选择而改变,就应缩小结论范围;不要通过删除引发分歧的案例来提高表面上的稳健性。

设计下一项有可能改变决定的测试。明确目标总体、比较对象、结果指标、观察期,以及实际约束。解释这项测试完成后,仍会留下哪些未知问题。一项试点可能证明工作流程能够运转、记录能够核对一致,却无法识别它对制度运行质量的因果影响。重复一项说明性计算,只能验证算术,而不能证明其输入有效。

研讨:口头答辩与修订

每位学员用三分钟提出建议,然后分别回答关于证据、资源,以及受影响者如何获得补救的质疑。考评者应要求学员根据已提交的记录进行推理,而不是背诵某种偏好的措辞。如果准备过程中使用了AI工具,学员应说明工具作出了什么贡献,并能够解释和检查由此形成的论证。

讨论结束后,提交一份修订说明,指出改变了什么、为何改变,以及还存在哪些分歧。英文原版的篇幅要求为300词;如用中文作答,可选择约600字的适配篇幅,这不是逐词对应的等值换算。只要用证据回应了反对意见,有充分理由地保留原建议也是可以接受的。评价应着眼于推理和修订的质量,而不是是否赞同课程作者。

本课程虚构示例

总体一致性掩盖了决定性分歧

在一个包含十个案例的虚构练习中,两名编码者对60项能力评级中的54项达成一致。全部六处分歧都涉及:在用来支持主要结论的案例中,是否存在叫停权限。

  1. 报告90%的总体一致率,同时指出有争议的字段及受到影响的案例。
  2. 分别依据每套编码重新计算所提出的关联,而不是通过取平均值抹去分歧。
  3. 检查底层证据,并应用明确的规则。如果关联发生变化,就应限定或撤回该实证主张,同时保留那些另有独立证据支持的设计论证。

由此可得: 如果分歧集中在决定结果的证据上,那么总体一致率高仍然不够。

先作答,再查看反馈

写出最有力的反对意见

针对你提出的纠错计划,写一段反对意见(英文原要求为200词,中文建议约400字),解释它可能如何浪费资源、固化既有优势方的地位,或阻碍有益的自动化。然后修改计划,或提出一项有可能证明你错了的测试来为计划辩护。

评价标准

  • 反对意见针对的是实际弱点,而不是歪曲后的稻草人。
  • 回应改变了一项主张、一项设计选择,或一项证据要求。
  • 所提出的测试存在一种结果,能够真正改变建议。
参考反馈

例如,第二位复核者可能使用同一个信息来源,只增加延误,却没有带来有价值的独立性。更好的设计可以用针对性地核对原始记录,取代对所有事项一律重复复核。测试应比较实质性错误的发现情况与延误,而不是仅仅统计完成了多少次检查。

形成性练习

检验你的推理

这是开放式自测,不是保密考试,也不颁发证书。下方提供答案与解析。你填写的答案不会发送到服务器。

编码者的一致率很高,但不同编码却使核心关联的方向发生逆转。分析应如何处理?

解析与参考答案

报告结果对编码选择的敏感性,并缩小或撤回受到影响的实证主张。

解释必须反映支撑它的关键证据。不应将脆弱的实证关联宣传为稳健结论;其他概念性论证则需要分别评估。

一项试点表明,纠错工作流程能够运转,而且记录能够核对一致。这直接证明了什么?

解析与参考答案

在受测条件下具有可行性,而不是所有声称的效果都已得到证明。

成功运行和记录核对一致,提供的是有适用范围限制的可行性证据。因果效果、可推广性、未来可靠性,以及假定成本的有效性,都需要各自的证据。

保存学习笔记

笔记仅保留在当前标签页中,不会提交或自动保存。离开前请下载副本。请使用虚构或公开信息,不要填写个人或客户机密。