English course · 简体中文版（扩展课程）
人工智能与制度 · 第 7 课，共 8 课
识别采用方自身的激励与更广泛的纠错成本之间的落差。
建议约 75 分钟，包括练习。
配套阅读 Better Answers, Worse Decisions（《更好的答案，更差的决策》，暂译）： 第14章. 该书另行销售。本课程不提供书稿或章节下载。
从自动化获益的团队，未必承担调查其错误的成本。节省的支出可能体现在一方的预算里，而延误、申诉和恢复工作却落在另一家组织或受影响者身上。因此，一项保障措施可能在整体上有价值，却无法吸引决定是否购买它的参与方。这才是需要识别的经济问题，而不是预先认定每一次部署都投入不足。
应按承担方和发生时间梳理收益与成本。既要计算保障措施本身的成本，也要考虑人员的机会成本、复核引入的延误，以及某项控制措施只是重复另一项措施的可能性。复核流程也可能保护既有优势方，或沦为形式。它的存在本身，并不能证明它改善了结果。
一个简单的期望成本计算，可以把假设显现出来。将事件的假定发生频率乘以其假定后果，再把成本变化与控制措施的成本进行比较。这是一个决策模型；只有输入得到证据支持时，它才称得上估计。对于罕见但严重的结果，计算尤其容易受到概率不确定性和所选时间范围的影响。
应计算不同情景，而不是把不确定性藏进一个精确数字中。事件发生频率达到多少时，这项保障措施才值得采用？如果控制措施只是转移了成本，而没有消除成本，又会怎样？即使期望货币收益为负，仍有哪些非货币约束必须遵守？不要用一个有利的平均值，抹去决策必须尊重的权利、义务，或必须避免的不可接受后果。
采购条款、运营预算、保险安排和监督机制，都可以改变由谁为保留的专业能力和补救支付费用。合适的安排取决于参与方拥有的控制能力，以及适用的义务。本课程提供的是分析框架，而不是针对特定司法辖区的法律意见，也不是主张所有有影响力的参与方都承担受信义务。
一项有资金保障的计划，应明确资源、预算负责人、启用条件，以及采取行动的权限。如果动用储备金必须获得原先出问题的团队同意，那么需要时它可能无法使用。独立审计如果无法获取证据，可能耗尽预算，却不能改变任何决定。应在最初用于说明该安排必要性的同一不利情景下，对其进行测试。
回到那项虚构的£12,000控制措施，以及成本为£200,000的事件。如果控制措施将年度发生概率降低七个百分点，避免损失的期望值就是£14,000。假设采用该措施的部门只承担这类损失的四分之一，那么它避免成本的期望值为£3,500，仍需承担£8,500的自身净成本；而在既定假设下，整体净收益仍为£2,000。这种差异揭示了一种预算激励，并不是对市场失灵的实测证明。
现在考虑另一项成本为£7,000的替代措施，假设它能将概率降低四个百分点。避免损失的期望值为£8,000，因此整体净收益为£1,000。在这些假设下，更昂贵的控制措施具有更高的整体净收益，但两个结果都取决于对有效性和损失的估计。如果那项£12,000的控制措施还引入了每年£4,000的延误成本，其整体净收益就变为−£2,000。建议必须披露这一变化，而不能继续沿用先前有利的数字。
准备一张敏感性分析表，至少包含两种损失水平、两种有效性假设，以及单独列示延误成本的一行。年度概率和年度成本应使用同一时间范围。如果事件一年内可能发生不止一次，就应对期望事件次数建模，或明确一种合适的损失分布，而不是不加说明地将单次事件的发生概率当作发生频率。
分配三种角色：采用方、受影响的服务方，以及统筹预算的负责人。请每一方提出，发现、调查和补救应由谁出资，并根据控制能力、收益和责任说明分配理由。练习不应假定，签订保险合同或写入采购条款，就能凭空产生原本不可用的能力。
提交一页预算建议，其中包含收支平衡阈值，以及一项被否决的控制措施。说明是否有某项非货币约束，无论期望值比较结果如何，都仍然具有约束力。复盘应指出哪个假设最可能使决定逆转，以及最值得优先收集的证据是什么。
本课程虚构示例
在这个假设示例中，一项独立核对工作每年花费£12,000。一次重大事件的调查和补救成本为£200,000。假设该控制措施将年度事件发生概率从10%降至3%，且没有其他影响。
由此可得： 阈值能够帮助明确哪些证据重要，但不能证明概率确实会下降，也不能替代对非货币义务的判断。
先作答，再查看反馈
设计一项假设的控制措施，给出年度成本、事件后果，以及两种合理的概率降幅。计算收支平衡阈值，识别成本承担方，并给出一个说明该计算为何可能不足以决定问题的理由。
好的答案会测试有效性较低的情景，并指出谁实际上节省了费用。它可以否定拟议的保障措施，转而选择能够应对同一种故障、成本更低的控制措施。不应声称虚构的期望值能够证明真实部署有利可图。
可选扩展 · 约 15 分钟，另计于核心课程用时
沿着第14章的资金问题继续分析，区分年度期望成本与事故发生时实际可用的资金。一家虚构的人工智能辅助分配服务，需要专业人员调查并纠正一批处理失败的任务。下列概率、金额、期限和报销条款均为教学构造。这是规划模型，不是保险报价，也不代表任何真实服务的实际情况。
假设一年内至多发生一次符合报销条件的事故，发生概率为4%。一旦发生，服务方必须最迟在第1天支付£18,000，启动应对工作；最迟在第10天再支付£12,000，完成纠错。假设只要按时付款，所需人员和其他资源就可到位。这个简化模型不计其他事故支出。第0天为事故开始时刻，所有期限使用同一计时基准。
服务方有£6,000储备资金，尚未被其他用途占用，可以立即使用。在本情景中，保单约定在工作完成、费用付清且理赔审核通过后，于第30天报销恰好£24,000。假设报销款按约定到账。该款项不能提前使用，也没有已经安排好的借款、供应商赊账或其他资金来源。本题不计保费、利息和储备资金的机会成本；选择真实安排前，必须另行考虑这些成本。
| 事件 | 付款期限或到账日期 | 需支付金额 | 收到资金 |
|---|---|---|---|
| 启动应对工作 | 第1天 | £18,000 | £0 |
| 完成纠错 | 第10天 | £12,000 | £0 |
| 审核通过后报销 | 第30天 | £0 | £24,000 |
事故发生时，总支出为£18,000 + £12,000 = £30,000。年度总支出的期望值为0.04 × £30,000 = £1,200。按题设报销后，每次事故自行承担的支出为£30,000 − £24,000 = £6,000，因此其年度期望值为0.04 × £6,000 = £240。上述计算依赖一年内至多发生一次事故，以及应对工作获足额资金、按要求完成并取得报销的假设。它计算的是当年发生事故所产生的最终成本，而不是同一公历年度内的现金流。计算未计保费、融资成本和资金机会成本，也不等于事故年份中实际需要准备的资金。
第1天的初始缺口为£18,000 − £6,000 = £12,000。到第10天，累计支出为£30,000，因此所需额外资金的峰值为£30,000 − £6,000 = £24,000。第1天的缺口已经包含在这£24,000之中，不应重复相加。仅靠题设储备金，服务方无法按时启动应对工作，也就无法完成作为报销前提的付款、完工与审核流程。现有资金不足以执行该方案。
如果经授权的资金来源按规定时间提供额外£24,000，服务方就能够支付题设费用。第30天的报销款随后可以归还这笔临时资金；最终事故净支出为£6,000，原储备金已用尽。安排这样的资金来源会产生自身的成本和使用条件。本练习不授权借款、支出或购买保险。
若只保留£1,200，第1天的缺口将变为£16,800，峰值缺口将变为£28,800。4%的概率是在计算期望值时对一种可能的年份情形加权，不会把实际£18,000的启动费用降为该账单的4%。一项计提或预算安排，还需要有可用的资金来源，以及有权拨付资金的人。
一张有用的复测卡，应要求确认最迟在第1天取得额外£12,000，并最迟在第10天再取得£12,000；也可以提出经验证能够满足两个期限的替代安排。明确谁能拨付、哪些条件可能阻止取用，以及专业人员和必要证据如何保持可用。在隔离的桌面演练中，假设通常的审批人或某项共同依赖的服务不可用。如果必需拨款迟到，或已获资金支持的专业人员无法访问记录，该方案就未通过既定测试。仅有预算条目不足以证明方案可执行。
若付款时间不变，仅把报销改到第60天，则所需额外资金的本金峰值仍为£24,000，但融资期限延长30天。因此，利息、续期条件和资金可用性都可能变化；表中信息不足以计算具体金额。如果报销减少或遭拒，最终自行承担的成本也会改变。这些是不同的敏感性情景。有资金支持，不等于纠错必然有效；有利的平均值，也不能取消适用的权利、义务或服务约束。
核查来源：NIST AI RMF 1.0（2023）的MANAGE 2.1考虑风险管理所需资源及可行的非人工智能替代方案；GOVERN 2.1涉及明确的角色与沟通安排；MANAGE 4.1将事故应对与恢复纳入监测计划。本原创练习将这些问题用于课程的资金分析。题中数值、保单条款、现金流计算与通过标准均非NIST给定；引用该框架不表示本方案获得认证。
形成性练习
这是开放式自测，不是保密考试，也不颁发证书。下方提供答案与解析。你填写的答案不会发送到服务器。
笔记仅保留在当前标签页中，不会提交或自动保存。离开前请下载副本。请使用虚构或公开信息，不要填写个人或客户机密。