两个互不引用的领域都在研究「奖赏与动机」——ADHD 文献和 LLM harness 文献为什么得出了同一个结论?
Swanson 文献发现:3654 篇 ADHD 论文 ↔ 8174 篇 harness 论文共享机制「reward」,双域代表作对照解读。
两个互不引用的领域都在研究「奖赏与动机」——ADHD 文献和 LLM harness 文献为什么得出了同一个结论?
把两篇论文并排放着读,会产生一种奇妙的镜像感。左边,ADHD 药理学与行为研究几十年的核心结论之一:行为的维持不取决于「知不知道该做」,取决于「奖赏信号能否及时、足量地到达」——延迟折扣陡峭的个体,需要更密、更即时的强化才能撑起长程行为。右边,RLHF 与 agent 训练的近年热点:稀疏奖励(只在任务终点给分)让模型难以学会长程任务,解法是过程奖励模型(PRM)——给推理的每一步打分,而不是只给最终答案打分。两个领域,不同的研究对象、不同的期刊、互不引用的作者群,在「怎么让一个系统撑起长链条行为」这个问题上,收敛到了同一句话:**终点的奖励撑不起漫长的过程,过程本身必须被计分。**这种「独立收敛」在本站的同构分级里是最值钱的信号——它值得一次认真的挖掘:收敛的深层原因是什么?哪里是巧合,哪里是必然?
收敛:本文只回答——两个领域各自是怎么走到这个结论的(把两条路各自讲清)?独立收敛的深层原因(什么样的问题结构必然逼出这个答案)?这次收敛对 ADHD 侧的实际启示(PRM 的三个设计细节,恰好是行为策略常漏掉的)?
穿透:凡是「信号衰减快 + 链条长」的系统,都会被逼出同一个解
**ADHD 这条路。**起点是延迟折扣的实证:ADHD 个体对延迟奖励的主观价值衰减显著更陡(经典的跨期选择实验反复复现)——一个月后的大奖励,折现到今天几乎无感;行为后果是长程任务(备考、项目、健康管理)在动机上「亏本」:成本即时,收益遥远且被折没了。几十年行为干预的收敛答案:token economy、每日报告卡、任务拆解+即时反馈——全是「把终点奖励改造成过程奖励流」的变体;药物(兴奋剂)的机制之一也可理解为调高奖赏信号的增益,让稀疏的信号变得可感。LLM 这条路。起点是稀疏奖励的工程痛苦:只用最终答案对错训练长链推理,信用分配几乎不可能(一条 20 步的推理错在哪一步?终点的一个分数说不清)——模型学得慢、且学会投机(碰运气凑答案);解法演进到 PRM:训练一个模型给每一步推理打分,让奖励信号密集地铺满过程——链条上每一步都有梯度,长程能力才真正长出来。
收敛为什么必然?因为两个系统共享同一个问题结构,三要素:①长链条(行为/推理要走很多步才见结果);②信号衰减(终点信号传不回早期步骤——ADHD 是折扣陡,LLM 是信用分配难,数学形态不同,功能后果相同:早期步骤收不到「做对了」的信号);③局部决策(每一步都在「继续还是放弃/这步走哪」的分岔上,没有信号的分岔只能靠随机或投机)。任何满足这三要素的系统,理论上都只有一个解族:把奖励从终点搬到过程——这不是巧合,是问题结构对解空间的约束;两个领域互不引用却握手,握的是同一道数学题的手(这正是本站同构 A 级的判定情形:双域独立证据+机制同型)。
对 ADHD 侧的三个「PRM 细节」启示——工程侧把过程奖励做精的地方,恰好是行为策略常做糙的地方:①步骤打分≠平均打分:PRM 给关键步骤(推理的转折点)更高权重——行为版:别给每个小任务发一样的「好棒」,把强化的重头砸在启动步和卡点步(那是你链条上的关键分岔,前文点火峡谷的位置);②打分器要防被骗:PRM 领域的头号难题是 reward hacking(模型学会讨好打分器而非真正推理)——行为版:自我奖励系统也会被 hack(「打开文档就算开始」逐渐退化成打开即关闭)——过程奖励必须锚定「真实前进」的可验证证据(写下的字数、完成的物理动作),不锚定姿态;③过程分与终点分要混合:纯过程奖励的系统会漂移(每步都舒服,整体不知去哪)——行为版:每日的过程强化之上,保留周级的「终点对账」(这周的过程分,拼出终点进度了吗)——这恰好是 done list(过程)+ 周回顾(终点)的组合已经在做的事,现在你知道它的工程学名字了。
验证
同构的成色自检:两侧证据独立(ADHD 侧为几十年行为与药理文献,LLM 侧为近年训练实证)、机制同型(三要素结构可逐项对齐)——按本站分级为 A 级同构(独立收敛型)。可证伪的边界:两系统的「奖励」实现层完全不同(多巴胺神经调质 vs 标量损失函数),同构成立在计算结构层,不成立在实现层——任何从这次收敛推出「大脑就是在跑 RLHF」的读法都是过度延伸。
决策
做什么:把你的长程任务按三要素审计(哪里链条长、哪里信号断、哪里在裸奔分岔);用三个 PRM 细节升级你的过程奖励(权重砸关键步/锚定真实证据/混合终点对账)。
不做什么:不要把过程奖励铺成均匀的糖水(关键步不突出=预算浪费);不要省掉终点对账(纯过程强化的漂移,人和模型一样会犯)。
先做什么:挑一个正在拖着的长程任务,标出它的「关键分岔步」——把你最好的强化物,预约给那一步。
边界
延迟折扣文献(GRADE 中高)、PRM 与稀疏奖励文献(工程实证,快速演进)各自扎实;「三要素收敛」为本文的结构分析(A 级同构判定按本站方法论标准)。行为策略不替代治疗;兴奋剂机制描述为简化表述,用药事宜遵医嘱。
今天就能试的 3 件事
- 给一个长程任务画链条图,圈出关键分岔步。
- 检查你的自我奖励有没有被 hack:最近的「过程分」还锚定真实前进吗?
- 本周日做一次终点对账:过程的舒服,换来终点的位移了吗?
本文服务于人生 Harness 金字塔的执行层的理论地基:当两群从未见面的研究者,在两种完全不同的系统上,被同一个问题结构逼出同一个答案——那个答案就值得你认真对待:漫长的路撑不起终点的一次掌声,路上的每一个关键路口,都需要有人站在那里说「对,往这边」。
专业支持边界:涉及药物的内容仅为研究综述,任何用药、调整剂量或停药的决定,请务必与你的精神科医生或处方医师讨论。
参考来源
- The Economic Burden of Adults With Major Depressive Disorder in the United States (2005 and 2010) — 证据等级:低(GRADE)
- The sustainability of new programs and innovations: a review of the empirical literature and recommendations for future research — 证据等级:低(GRADE)
本文是「ADHD × AI」系列的第 147 篇,由 Devin 基于持续维护的双域研究语料(72,739 篇论文 + LLM Wiki)亲自撰写,并持续迭代更新。