THK-A8 — AI 时代的人机分工:AI 主 Generation,人主 Representation + Evaluation,认知卸载退化的机制与对抗

关于 AI 与思维,流传最广的问法是「AI 会让人变聪明还是变笨」。这个问题没有第一性的答案,因为它本身是个错的 Representation——它把「思维能力」当成一根标量,于是只能给出「看你怎么用」这类正确但没用的废话。

把思维拆成四操作(A1 立的最小真结构:Representation 划解空间、Generation 填候选、Evaluation 收缩到对的、Metacognition 调度前三者),这个假问题立刻溶解成一个有答案的真问题。因为 AI 进场做的,不是笼统地「增强思维」,而是一件很具体的事:它把四个操作里的其中一个——Generation——的成本塌缩到近乎为零。这一件事,就足以把四个操作各自的稀缺性全部重新定价。所以真问题是:当造候选近乎免费,人的稀缺价值退到哪几个操作上? 这一讲要立的,就是这条重新定价的因果链,和它逼出的对抗纪律。

要看清定价怎么变,先得从第一性说清 AI 强在哪个操作,而不是笼统说它「很强」。大语言模型的本质是一个高概率续写引擎:给定上文,输出最可能的下文。而「在给定空间里大量重组、产出候选」正是 A3 讲的 Generation 的机制内核(概念重组 / 跨域类比)。所以 AI 不是均匀地强于四操作,而是恰好落在 Generation 这一格:秒出海量候选、跨域类比信手拈来,且边际成本趋近于零。人「能想出一个方案」这件事,于是迅速贬值。

但稀缺不会凭空消失,它会转移。写成一句可操作的定价律:一个人类操作还值不值钱,取决于它有多难被 AI 替代——

当 $\sigma (\text{Generation})\to 1$,$V(\text{Generation})\to$ 低;而 Representation 与 Evaluation 的 $\sigma$ 依旧很低,价值被相对抬高。稀缺被挤到了两端。这不是巧合,而是一条第一性的结构不对称:

• 上游端(Representation):AI 只能在你给定的问题空间里做 Generation。它优化的是 prompt 框定的那个空间,不会(带着利害地)自主重构问题。而 A2 的铁律是「换 Representation = 换解空间」——问错了问题,Generation 越强、候选越多,浪费越大(放大器会把错的也一起放大)。所以「提对问题、把问题框定对」这一端,天然留在人手里。
• 下游端(Evaluation):AI 会幻觉,且缺真实世界的反馈校准(下一节展开)。于是「证伪 AI、判断这个答案信不信」这一端,也天然留在人手里。

一句话概括这条不对称:生成器在一个它没有选择、也无法验证的空间里工作。选空间(Representation)在它上游,验结果(Evaluation)在它下游,两端都不是它能自己闭合的。这就是 AI 时代最优人机分工的第一性来源——AI 主 Generation,人主 Representation + Evaluation + Metacognition。

上一节说「AI 缺反馈校准」,这一节把它挖到底,并接上 A7 的可训练边界——这是全讲最硬的一处因果。

根因在模型的自信被校准到了什么上。大语言模型的输出分布,校准的是「什么文本可能出现」$P(\text{text})$,不是「什么在物理 / 工程世界为真」$P(\text{correct})$。推理时它拿不到来自真实域的闭环反馈——它无法把「这个开关波形正不正常」的判断送去示波器对账,再回来修模板。于是它的「自信」(措辞的流畅与果断)与「正确」之间是解耦的:

按 A7 的语言,这正是把 AI 的判断钉在 wicked 侧的原因:它的产出「听起来对」与「真的对」之间没有可靠关联,而 wicked 环境的定义就是「反馈不忠实反映判断质量」。

真正精妙、也最值得记住的一层是:我们为什么会系统性地过度信 AI。因为「自信 = 能力」这条启发式,本身是人在 kind 环境里练出来的可靠直觉——在人类社交里,敢下果断断言的人,往往真有被反馈校准过的经验,所以「听他语气」是个省力且多半靠谱的线索。可一旦把这条直觉用到 AI 上,就正好是 A7 说的最典型翻车:用一个 kind 环境练成的直觉,去判一个 wicked 环境的对象。启发式在这里系统性误火——AI 的流畅果断是它训练目标的直接产物,恰恰不是能力信号。同一套 A7 机器,一口气解释了两件事:AI 的判断为什么不可信,以及人为什么偏偏会信它。结论顺理成章:谁承担后果,谁做 Evaluation;AI 的每个输出都得当成「永远需要系统 2 复核的 wicked 侧产出」来对待——这就是 A7 收束那句话的兑现。

分工讲清了「该把哪端留给人」,但还差一个动力学问题:如果人图省事,把该留的两端也外包给 AI,会怎样?这就是 AI 时代最大的能力风险——认知卸载退化,而它的可怕之处全在「自隐蔽」三个字。

机制承 A7:技能由「把情境→结果的配对压成模板」的练习维持。一旦你停止运行某个操作,你就停止产生维持它的练习,模板随之衰减、甚至从未成形。据此,四操作里卸载哪个、风险天差地别:

• 卸载 Generation:低风险。 它本就在贬值,且可随时重跑、不需内化在你脑子里。
• 卸载 Representation + Evaluation:灾难性。 这恰恰是人保留稀缺价值的两端,而它们的萎缩你从内部察觉不到——因为你外包掉的 Evaluation,正是那个本该告诉你「AI 错了 / 我在退化」的官能(A6:监工最大的盲区就是监工自己)。

于是形成一个指向依赖的增强回路(Meadows 系统语言里的正反馈):

回路每转一圈,你越发现不了 AI 的错,就越觉得它靠谱,就越把判断权交出去——而全程你感觉不到自己在退化。

为什么这个陷阱如此诱人?接 A7 的二阶效应看即知:一阶后果是卸载让你今天更快、更多产(即时、明确的正反馈,kind 区);二阶后果是你自己的 Representation / Evaluation 能力以月、年计地萎缩(慢、隔几层、被日常产出掩盖的负反馈,wicked 区)。同一个动作,一阶落在 kind 区、二阶落在 wicked 区——于是「跟着反馈走」的天性会把你径直推进陷阱。认知卸载的诱人,不是意志力问题,是反馈结构本身在骗你。

诚实标注实证强度:卸载会削弱被卸载的能力,在「数字健忘 / Google 效应」一类记忆研究里有实证支持(如 Sparrow 等 2011 年关于「知道能查到就记不住内容」的实验),近年也有针对生成式 AI 与批判性思维的初步研究在跟进(结论方向一致但样本 / 因果尚未坐实,需核)。但「AI 用久了会特异性地萎缩 Representation 与 Evaluation」这条,目前更多是第一性预测 + 从记忆卸载文献的类比迁移,不是已成定论的 LLM 特异实证——请当解释性模型用来指导纪律,别当铁律引用。

这一讲的价值不在记住「AI 主 Generation」这句话,而在改动作——把「守住两端」变成四个可执行的纪律。

练法一——先自己做 Representation,再开 prompt。 任何重要问题,动手问 AI 之前,先自己写下三句:这到底是什么问题、边界在哪、我真正要的是什么。守的是上游那一端——别让 AI 的第一句话替你框定问题(一旦它先给了框架,你极易锚定在里面,连「该换个看法」都想不起来)。这正是 A2「换 Representation 是最高杠杆」在 AI 时代的具体落法。

练法二——先给自己的概率判断,再读 AI 的答案。 承 A5 的决策日志:对任何要据以行动的判断,先写下自己的结论 + 概率 + 理由,再让 AI 去做 Generation、补充、反驳。这样 AI 是你 Evaluation 的对手而非替代;顺带防止你被它的措辞锚定。次序一反(先看 AI 答案再「判断」),你做的就不是 Evaluation,是复述。

练法三——把「流畅」从可靠性信号里剥离。 每当 AI 给出一个果断、漂亮的答案,强制问一句:「它凭什么可靠?这个域它有反馈校准吗?」默认它落在 wicked 侧,要证据不要口气。这是把中段二那条 confidence–correctness 解耦,变成一个可随时触发的动作,专门对冲人「自信 = 能力」那条会误火的直觉。

练法四——定期做「卸载体检」,给自隐蔽的退化人工装反馈闭环。 因为萎缩从内部看不见(增强回路的盲区),必须靠外部信号。每隔一段时间,挑一个重要判断完全不用 AI独立走一遍(自己 Representation → Generation → Evaluation),再回头对照 AI 的版本。走不动、卡壳的地方,就是已经萎缩的地方。这是 A7 练法二「给 wicked 域人工补闭环」的同一招,只不过这次被卸载的对象,是你自己的思维能力。

A 阶八讲到此闭环。四操作(A2–A6)给了思维的最小真结构,可训练边界(A7)给了「哪些直觉配被信任」的元判据,AI 分工(A8)给了「哪一端不能外包」的定价律。三者合起来,是一层完整的元判断:随时知道自己在哪一步、该不该信、该不该练、哪端不能交出去。AI 时代它给的最硬一条结论是——人的稀缺价值退到 Representation(提对问题)与 Evaluation(判答案信不信)两端;而「信不信」的底层判据,仍是 A7 那把尺:AI 缺真实反馈,天然 wicked,永远需要人当系统 2 复核。

THK 轨的 A 阶「听讲」到此结束。往后不再是读一讲、记一个术语,而是在真实的元规划对话(mutual-upgrade-protocol)里主动跑这四操作:由你出 Representation 与 Evaluation、提对问题,让 AI(和这套框架)只做它该做的 Generation 与红队。把这八讲从「知识」变成「每次思考的当下驾驶」,才是 A 阶真正的收官——也正是这套思维轨从一开始就服务的那个目的:做 wiki 是手段,把自己练成能独立驾驶四操作的人,才是目的。