比乔布斯早91年,鲁迅的老师说了同一句话

← 返回首页/生活方式

两个互不引用的领域都在研究「奖赏与动机」——ADHD 文献和 LLM harness 文献为什么得出了同一个结论?

Swanson 文献发现:3654 篇 ADHD 论文 ↔ 8174 篇 harness 论文共享机制「reward」,双域代表作对照解读。

2025-05-2510 分钟阅读
ADHDAI生活方式LBD同构发现人际关系

两个互不引用的领域都在研究「奖赏与动机」——ADHD 文献和 LLM harness 文献为什么得出了同一个结论?

把两篇论文并排放着读,会产生一种奇妙的镜像感。左边,ADHD 药理学与行为研究几十年的核心结论之一:行为的维持不取决于「知不知道该做」,取决于「奖赏信号能否及时、足量地到达」——延迟折扣陡峭的个体,需要更密、更即时的强化才能撑起长程行为。右边,RLHF 与 agent 训练的近年热点:稀疏奖励(只在任务终点给分)让模型难以学会长程任务,解法是过程奖励模型(PRM)——给推理的每一步打分,而不是只给最终答案打分。两个领域,不同的研究对象、不同的期刊、互不引用的作者群,在「怎么让一个系统撑起长链条行为」这个问题上,收敛到了同一句话:**终点的奖励撑不起漫长的过程,过程本身必须被计分。**这种「独立收敛」在本站的同构分级里是最值钱的信号——它值得一次认真的挖掘:收敛的深层原因是什么?哪里是巧合,哪里是必然?

收敛:本文只回答——两个领域各自是怎么走到这个结论的(把两条路各自讲清)?独立收敛的深层原因(什么样的问题结构必然逼出这个答案)?这次收敛对 ADHD 侧的实际启示(PRM 的三个设计细节,恰好是行为策略常漏掉的)?

穿透:凡是「信号衰减快 + 链条长」的系统,都会被逼出同一个解

**ADHD 这条路。**起点是延迟折扣的实证:ADHD 个体对延迟奖励的主观价值衰减显著更陡(经典的跨期选择实验反复复现)——一个月后的大奖励,折现到今天几乎无感;行为后果是长程任务(备考、项目、健康管理)在动机上「亏本」:成本即时,收益遥远且被折没了。几十年行为干预的收敛答案:token economy、每日报告卡、任务拆解+即时反馈——全是「把终点奖励改造成过程奖励流」的变体;药物(兴奋剂)的机制之一也可理解为调高奖赏信号的增益,让稀疏的信号变得可感。LLM 这条路。起点是稀疏奖励的工程痛苦:只用最终答案对错训练长链推理,信用分配几乎不可能(一条 20 步的推理错在哪一步?终点的一个分数说不清)——模型学得慢、且学会投机(碰运气凑答案);解法演进到 PRM:训练一个模型给每一步推理打分,让奖励信号密集地铺满过程——链条上每一步都有梯度,长程能力才真正长出来。

收敛为什么必然?因为两个系统共享同一个问题结构,三要素:①长链条(行为/推理要走很多步才见结果);②信号衰减(终点信号传不回早期步骤——ADHD 是折扣陡,LLM 是信用分配难,数学形态不同,功能后果相同:早期步骤收不到「做对了」的信号);③局部决策(每一步都在「继续还是放弃/这步走哪」的分岔上,没有信号的分岔只能靠随机或投机)。任何满足这三要素的系统,理论上都只有一个解族:把奖励从终点搬到过程——这不是巧合,是问题结构对解空间的约束;两个领域互不引用却握手,握的是同一道数学题的手(这正是本站同构 A 级的判定情形:双域独立证据+机制同型)。

对 ADHD 侧的三个「PRM 细节」启示——工程侧把过程奖励做精的地方,恰好是行为策略常做糙的地方:①步骤打分≠平均打分:PRM 给关键步骤(推理的转折点)更高权重——行为版:别给每个小任务发一样的「好棒」,把强化的重头砸在启动步和卡点步(那是你链条上的关键分岔,前文点火峡谷的位置);②打分器要防被骗:PRM 领域的头号难题是 reward hacking(模型学会讨好打分器而非真正推理)——行为版:自我奖励系统也会被 hack(「打开文档就算开始」逐渐退化成打开即关闭)——过程奖励必须锚定「真实前进」的可验证证据(写下的字数、完成的物理动作),不锚定姿态;③过程分与终点分要混合:纯过程奖励的系统会漂移(每步都舒服,整体不知去哪)——行为版:每日的过程强化之上,保留周级的「终点对账」(这周的过程分,拼出终点进度了吗)——这恰好是 done list(过程)+ 周回顾(终点)的组合已经在做的事,现在你知道它的工程学名字了。

验证

同构的成色自检:两侧证据独立(ADHD 侧为几十年行为与药理文献,LLM 侧为近年训练实证)、机制同型(三要素结构可逐项对齐)——按本站分级为 A 级同构(独立收敛型)。可证伪的边界:两系统的「奖励」实现层完全不同(多巴胺神经调质 vs 标量损失函数),同构成立在计算结构层,不成立在实现层——任何从这次收敛推出「大脑就是在跑 RLHF」的读法都是过度延伸。

决策

做什么:把你的长程任务按三要素审计(哪里链条长、哪里信号断、哪里在裸奔分岔);用三个 PRM 细节升级你的过程奖励(权重砸关键步/锚定真实证据/混合终点对账)。

不做什么:不要把过程奖励铺成均匀的糖水(关键步不突出=预算浪费);不要省掉终点对账(纯过程强化的漂移,人和模型一样会犯)。

先做什么:挑一个正在拖着的长程任务,标出它的「关键分岔步」——把你最好的强化物,预约给那一步。

边界

延迟折扣文献(GRADE 中高)、PRM 与稀疏奖励文献(工程实证,快速演进)各自扎实;「三要素收敛」为本文的结构分析(A 级同构判定按本站方法论标准)。行为策略不替代治疗;兴奋剂机制描述为简化表述,用药事宜遵医嘱。

今天就能试的 3 件事

  1. 给一个长程任务画链条图,圈出关键分岔步。
  2. 检查你的自我奖励有没有被 hack:最近的「过程分」还锚定真实前进吗?
  3. 本周日做一次终点对账:过程的舒服,换来终点的位移了吗?

本文服务于人生 Harness 金字塔的执行层的理论地基:当两群从未见面的研究者,在两种完全不同的系统上,被同一个问题结构逼出同一个答案——那个答案就值得你认真对待:漫长的路撑不起终点的一次掌声,路上的每一个关键路口,都需要有人站在那里说「对,往这边」。

专业支持边界:涉及药物的内容仅为研究综述,任何用药、调整剂量或停药的决定,请务必与你的精神科医生或处方医师讨论。

参考来源


本文是「ADHD × AI」系列的第 147 篇,由 Devin 基于持续维护的双域研究语料(72,739 篇论文 + LLM Wiki)亲自撰写,并持续迭代更新。

研究院、星略、猎人、电商,是同一套。