THK-A4 — 评估(上):为什么系统 1 的误评估是「系统性」的,以及六类偏误的反问反制

评估要回答的问题只有一个:这个候选(解释 / 方案 / 结论)是不是真的对。难点在于,你脑子里负责快速回答它的那套机制——系统 1——根本不在答这个问题。它在答一个更容易的问题:这个候选顺不顺、合不合我已经信的东西、来源响不响。Kahneman 把这叫属性替换(attribute substitution):真问题难,大脑悄悄换上一个一秒能答的代理问题,然后把代理的答案当成真问题的答案交差。

如果替换带来的误差是随机的——这次偏高、下次偏低、彼此独立——那其实不可怕:多判几次、求个平均就抵消了。真正要命的是,替换出来的误差方向一致。你信一个结论,确认偏误就总是让你多找支持它的证据、少找反对的;一个锚一旦抛下,后续估计就总是朝锚的方向偏。把每次判断写成「真值 + 偏置 + 噪声」:

噪声 ${\epsilon }_i$ 随平均趋于零,但偏置 $b$ 原封不动地活下来。这一行就是整讲的根:系统性误差出不掉样——你判一百次、找一百个人投票,只要大家共用同一套系统 1,$b$ 还在那。所以评估的功课不是「更小心点」「多看几遍」,而是针对每一类方向性偏置,修一道把它逼出来的结构工事。这一讲就是这套工事的图纸。

为什么替换出来的误差总朝一个方向、而非随机抖动?根因有三层,层层把「随机噪声」排除掉、把「系统性偏置」坐实。

第一层(流畅度冒充真理): 系统 1 评估「真不真」时,实际读取的代理信号是流畅度(fluency)——这东西想起来顺不顺、读起来熟不熟、跟已知拼不拼得上。而流畅度和真理只是弱相关:真的东西常常顺,但顺的东西不一定真(熟悉的谣言也很顺)。一旦用流畅度当真理的代理,误差就系统性偏向「熟悉 / 简单 / 既有信念」那一侧——这不是抖动,是有方向的拉力。

第二层(评估自己时是辩护律师,不是法官): 这是最毒的一层。你评估别人的论点时,系统 1 至少是中立偏挑剔的;但评估自己已经倾向的结论时,大脑切换成 motivated reasoning——它不是去查「我对不对」,是去证明「我对」。于是搜证据这个动作本身带了方向:支持的证据一路绿灯放行,反对的证据被加倍盘问、被解释掉。结果就是确认偏误——不是你懒得找反例,是你的检索器结构性地优先返回顺方向的证据。

第三层(不能靠多抽样消除,只能靠换问题): 前两层合起来决定了这个偏出不掉样。流畅度偏置对同一个人、同一题是稳定的;motivated reasoning 在你立场不变时一直在线。再判一次,系统 1 还是抄同一条捷径、得同一个方向的偏。所以唯一的反制不是「重复评估」,而是强行切换到系统 2,用一个反问把真问题塞回去——把「这顺吗 / 我信吗」换回「这真吗 / 怎么证伪」。下一节的六个反问触发词,本质都是这同一个动作的不同入口。(诚实标注:系统 1/2 是一种解释性映射、非字面的两台机器,双过程论在认知科学里有争议,Kahneman 本人也提醒当好用的标签用;但「属性替换」「确认偏误」有大量实验支撑,是较强论断,可放心当工事的地基。)

知道了「偏 = 真问题被换成了假问题」,六类高频偏误就不再是要背的清单,而是同一台替换机的六个出口——每一类都是「把哪个真问题换成了哪个假问题」,而它配的反问触发词,精确地就是「把那个真问题塞回去」的撬棍。看机制,不要背名字:

• 确认偏误 —— 把「这结论真吗」换成「我信它吗」。撬棍:「有什么证据能证伪我?」——强制把检索器掉头,去找你刚才自动跳过的反方证据。
• 锚定 —— 把「独立估一个值」换成「从这个数往外微调」。撬棍:「抛开这个锚,从零独立估一次?」——切断锚的引力,逼一次不参照的重估。
• 沉没成本 —— 把「往后还值不值得做」换成「我已经砸了多少进去」。撬棍:「从零开始、忘掉已投入,你还会做吗?」——把评估对象从过去拉回未来净值。
• 错误因果 —— 把「A 真导致 B 吗」换成「A 是不是在 B 之前发生」。撬棍:「有没有第三个共同原因?会不会是反过来?」——把时序顺序换回因果结构。
• 诉诸权威 —— 把「这论证强不强」换成「说话的人响不响」。撬棍:「这位权威在这个具体领域、对这个具体主张,真的有效吗?」——把来源光环换回论证本身的强度。
• 滑坡 —— 把「每一步推得动吗」换成「终点听着多吓人」。撬棍:「A→B、B→C 每一环真的必然发生吗?概率各是多少?」——把吓人的终点换回每一环的转移强度。

六根撬棍长得各不一样,干的是同一件事:把系统 1 偷换掉的真问题,显式地搬回评估台上,逼系统 2 重答一遍。所以练评估不是背六个名字,是把这六句反问养成遇到对应情境就自动弹出的条件反射——它们是系统 2 的「启动开关」。

六根撬棍各打一类偏,但中段一第二层那个最毒的根——评估自己时变成辩护律师——需要一件更重的工事,因为它不是某一类偏,是给所有偏附了一层「替自己开脱」的总加成。这件工事叫钢铁侠论证(Steel-manning):在反驳一个对立观点之前,先把它复述成对方会满意的、最强的版本,强到对方点头说「对,我就是这个意思」,然后再去驳。

它为什么正好解掉那层加成?因为 motivated reasoning 的标准动作是稻草人——把对方(或那个跟你结论相反的可能性)悄悄弱化成一个好打的版本,打倒它,再宣布自己赢了。这等于在评估里给自己注水。钢铁侠强制反过来:你必须先把评估对象升级到最强形态再开打。于是两种结果都对你有利——要么你连最强版都驳倒了,结论真稳;要么你驳不倒,正好精确定位到真正的分歧点在哪,而不是把力气浪费在一个你本来就能赢的草人上。它本质是把「我的结论对吗」这个会触发辩护律师的问法,反转成「反方的最强版我能不能驳倒」这个逼出法官视角的问法。

落到读者本域,这套机制最值钱的一幕在安全论证的自审。你做完 FMEDA、算出 SPFM 过了 99%,系统 1 此刻最想干的事就是确认偏误——找证据证明「我这套 SM 真的有效」。正确的评估动作恰恰相反:对自己的安全论证做钢铁侠的反面——故意为「它会失效」造最强的论证(这正是 FS-A1 里 FTA 自顶向下找最小割集、Fault Injection 实打实注故障的精神:不证明它行,而是拼命证明它不行,逼那个被流畅度掩盖的断点现形)。评估安全机制时「拼命证伪自己」,买的就是不让一个看着顺、实则有单点的论证混过去。

要划清这套工事的边界,免得用错地方。反问触发词和钢铁侠反制的是方向性偏置 $b$ 里你能用系统 2 逮住的那部分——它们把被偷换的真问题搬回台面,让慢思考有机会纠偏。但它们做不到两件事:其一,有些偏深到连你切了系统 2 都看不见自己在偏(这要靠外部视角,下一讲的反馈校准才管);其二,在反馈又慢又噪的领域,你压根没有信号知道自己这次到底偏没偏——再多反问也是自说自话。所以这一讲是评估的上半:把能当场逮的方向性偏,用结构工事逮住。真正让评估变可靠的另一半——输出概率而非 yes/no、用 Pre-mortem 逆向找失败路径、靠反馈闭环校准直觉——是下一讲的事。

一个反直觉但极值钱的经验:最该被你怀疑的结论,恰恰是那个让你觉得「这还用想吗、显然对」的。那种「显然」的顺滑感,正是系统 1 用流畅度冒充真理、且已经替你跳过了所有反方证据的信号——越顺,越该把六根撬棍挨个过一遍。

本讲的练法围绕一件事:把「切回真问题」练成遇到情境就自动弹出的条件反射,而不是道理上知道。

1. 六问扫描 · 重要结论必过(把撬棍练成反射): 任一你打算依据它行动的结论,出手前把六根撬棍挨个问一遍——尤其优先问那个对应你当前情境的(在花钱继续一个项目?先问沉没成本那句)。练的是「让反问在该出现的时候自动跳出来」,而非记得有这六类。
2. 每周一次钢铁侠(练「评估自己」的肌肉): 每周挑一个你强烈反对的观点,先把它的支持论证写到你自己都觉得「有点道理」的最强版,再反驳。直接锻炼的是抑制稻草人、升级评估对象那块肌肉。
3. 「显然」即警报(逮流畅度冒充真理): 给自己设一条规则——每当冒出「这显然对 / 这还用想」的顺滑感,就强制停一拍,专门去找一条反方证据。练的是把「顺」当可疑信号,而不是当确认。
4. 证伪自己的安全论证(本域落地): 对任何一份你做的论证(FMEDA / 方案评审 / 判断),花十分钟专门给「它是错的」造最强论证——不是为了推翻,是逼那个被确认偏误掩盖的断点现形。
5. 诚实标注模型边界: 对「系统 1/2」「属性替换」这套框架本身也用它的标准——哪些是有实验支撑的强论断(确认偏误、锚定),哪些只是好用的解释性标签(两个系统的字面存在)?分清楚,失效时才不会硬套。

这一讲把评估的上半讲透了:系统 1 的误评估之所以危险,不在「会错」,在方向一致地错——它用属性替换把「真不真」偷换成「顺不顺 / 我信不信 / 来源响不响」,而这种偏置出不掉样,平均一百次还在;六类高频偏误是同一台替换机的六个出口,每根反问触发词都是「把真问题塞回台面」的撬棍;钢铁侠论证则专治评估自己时的辩护律师病,把结论升级到最强形态再打。记住那条警报:越觉得「显然对」,越该把撬棍过一遍。

但撬棍只保证你朝真问题问了,不保证你答得准。要让评估从「方向纠偏」升级到「可靠判断」,还差三样:把结论从 yes/no 改成概率(逼自己承认不确定、也让事后能校准)、用 Pre-mortem 逆向假设已经失败、再去找原因、以及最根本的——靠反馈闭环把直觉校准成可靠(而哪些领域的直觉根本练不可靠,是 A 阶后面要划的边界)。下一讲 THK-A5 专讲评估的下半:为什么可靠的评估输出概率而非结论,以及反馈为什么是直觉变可信的唯一路径。