自动化与人的判断：什么不该外包

本文性质： 实证 + 模型（Evidence / Model）　证据标签： 观察 Observation／模型 Model／假设 Hypothesis／实证 Evidence

本篇涉及的证据类型：观察 Observation／实证 Evidence／模型 Model。凡属本院课堂观察与教学模型的部分，均不作效果承诺。

越来越多的判断正在交给系统：推荐学什么、判断水平、决定练哪道题。这些判断大多数时候比人快，也比人一致。但快与一致，不等于合适。

快与一致，不等于合适

本院在使用自动选题工具时注意到一个现象：系统倾向于推荐学员已经做得不错、正确率高的题型，因为那样能维持正向反馈与继续练习的意愿。但从教学上看，真正需要的往往是那些正确率低、让人不舒服的题型。系统的目标是维持使用，教师的目标是补上短板，两者并不总是同向。

人因工程记录的两类问题

人因工程领域很早就记录了两类问题。Parasuraman 与 Riley 1997 年关于自动化的综述，区分了自动化带来的使用、误用与滥用三方面风险，其中自动化偏见指人倾向于接受系统建议、放弃独立判断。Cummings 关于监督控制的研究则指出，当人把大部分操作交给系统之后，自己维持情境意识与介入能力反而更难，因为介入的机会与练习机会都变少了。换句话说，把判断交出去的同时，也把判断的能力一起交了出去。这两条结论来自航空与控制工程等高风险领域，迁移到教育场景需要谨慎。

系统只给候选，教师记录选择理由

本院划了一条线：凡是判断涉及这个人现在最需要什么的部分，模型只能提供候选，不能做决定。具体做法是让系统输出三个候选任务并列出理由，教师从中选择，并记录为什么不选另外两个。这条线不是因为不信任技术，而是因为选错带来的代价由学生承担，而系统不承担这个代价。

人的判断同样有偏见

第一，人的判断同样有偏见，教师也会偏袒熟悉的教学方式，不能把人工当成正确。第二，记录理由会增加工作量，班级规模大时难以执行。第三，涉及学习困难的判断应当交给专业评估人员，不能由教师或系统单方决定。

今天就能开始

下次接受系统推荐时，先看一眼它没推荐什么，再决定选哪个。

本文依据

• 观察来源： 本院自动选题工具使用记录：推荐结果偏向已掌握题型，与教学需要的补短目标不完全一致。
• 模型出处： 「系统只给候选、教师记录理由」这条界线，为本院 AI 学习实验室内部使用规范。
• 待验证项： 自动化偏见与监督控制在教育场景中的强度，缺乏教育领域的直接研究。
• 外部文献： Parasuraman & Riley 1997（Human Factors 自动化使用、误用与滥用）；Cummings 监督控制研究（自动化程度与情境意识、介入能力的关系）。