为什么AI 作为认知义肢最危险的不是失效，而是太好用？
《问题322》人工精修选题，双域证据作答。
为什么AI 作为认知义肢最危险的不是失效，而是太好用？
评估一款义肢的传统清单里,风险项写的都是「失效模式」:断电、故障、误动作。但一位康复工程师朋友告诉我一个反直觉的行业共识:下肢义肢临床上最需要防的并发症之一,不是义肢坏了,而是义肢太好——好到患者残余的肌肉和神经彻底停止工作,几年后,原本还有三成功能的残肢退化到零。听他讲完,我看着自己屏幕上那个替我写邮件、替我拆任务、替我做决定摘要的 AI,忽然意识到「认知义肢」这个我们用了很久的比喻,自带着一条我们从没认真读过的警告标签。
收敛:本站已写过拐杖/脚手架的分区(哪些功能该终身外包)和商业激励的错位(产品为何偏爱依赖),本文不重复。只回答这一问:「太好用」本身作为一种独立的风险机制,它的作用路径是什么(和「失效」风险有何本质不同)?为什么它专门猎杀 ADHD 用户?防御为什么不能靠「少用」?
穿透:失效会报警,好用不会——这是两种完全不同的风险拓扑
先把两种风险的结构差异说清。失效型风险是自报警的:AI 宕机、答错、胡说,你立刻知道、立刻切换到备用方案——损失即时、可见、有界;「太好用」型风险是静默的:每一次顺滑的代劳都是一次微小的、无感的能力交割,没有任何一个时刻会弹出警告,损失延迟、不可见、且复利累积——等到可见时(那个停电的下午、API 故障的半天),你测到的已经是几年期的账。风险管理的第一定律是「无报警的风险需要主动监测」,而我们对 AI 的使用几乎没有任何主动监测——我们给失效上了三重保险,给好用敞着大门。
为什么专门猎杀 ADHD 用户?三条路径叠加:①摩擦敏感:ADHD 对启动摩擦的敏感度远高于常人,「顺滑」对我们不是体验加分项,是决定用不用的生死项——所以「太好用」的产品在 ADHD 用户里的渗透深度天然更深;②代偿史的心理欠账:挣扎了半辈子的人第一次遇到「不费力」,那种解脱感带着报复性——「我受够了硬扛」的正当情绪,会把每一次外包都合理化,包括不该外包的那些(拐杖区/脚手架区的边界在解脱感面前最容易失守);③监测恰恰是我们的短板:防静默风险靠的是定期自查、留基线、做演习——全是执行功能的活,ADHD 最缺的就是这个,于是最需要监测的人群拥有最少的监测。
防御为什么不能靠「少用」?因为「少用」惩罚的是收益,不是风险——认知义肢的收益(前文写了四百篇的那些)是真实且巨大的,一刀切少用等于把义肢和残肢一起废掉。正确的防御来自康复医学的原版答案:义肢处方永远配康复训练处方——用义肢走路,同时保持残肢的每日训练;翻译到认知义肢:①能力基线档案:给你外包的每项功能(写作/拆解/决策/记忆)记一条「徒手基线」(现在不用 AI 我能做到什么程度),每季度重测一次——有基线,静默损失才第一次变得可见;②每周徒手窗:固定一个低风险场景全程不用 AI(比如周五的内部邮件、私人日记),它的功能不是产出,是残肢训练;③交割清单:把「我允许彻底交出去的」(拐杖区:时间感知、提醒)和「只租不卖的」(脚手架区:判断、结构、表达)写成明文——太好用的东西面前,只有明文能守住边界,意志力守不住。
验证
基线档案就是验证工具:季度重测,徒手能力持平或上升=健康的义肢关系;持续下滑的项=正在静默交割,把它移入每周徒手窗。可证伪:若某项能力你从未拥有过基线(不是退化,是本来就没有——如重度时间盲),它属于拐杖区,「训练」对它是浪费,安心终身外包——本文防的是脚手架区的静默流失,不是要你对拐杖区愧疚。
决策
做什么:建基线档案(四项起步:写作/拆解/决策/记忆);设每周徒手窗;写交割清单并贴出来。
不做什么:不要用「戒断 AI」表演自律(惩罚收益的防御是坏防御);不要等「感觉退化了」再行动(静默风险的定义就是感觉不到——感觉到时已是晚期)。
先做什么:今天花十五分钟写第一份徒手基线:不用任何 AI,把一件复杂的事拆成步骤、写一段两百字的表达——存档,标注日期,这就是你的对照组。
边界
义肢与废用性萎缩的类比为 B 级机制类比(废用性萎缩在运动系统有充分证据,认知功能的「用进废退」证据弱得多且有争议——本文以「风险管理」而非「已证实危害」口径处理);「AI 使用导致认知能力下降」目前无高质量纵向研究。个体的拐杖区/脚手架区划分以自测为准;本文不构成减少必要辅助工具使用的建议。
今天就能试的 3 件事
- 写第一份徒手基线并存档——给未来的自己留一个对照组。
- 圈定你的每周徒手窗:哪个低风险场景,从本周起不用 AI。
- 写交割清单初稿:哪三项「彻底交」,哪三项「只租不卖」。
本文服务于人生 Harness 金字塔的执行层的风险管理:会坏的工具只能骗你一次,太好用的工具能骗你十年——而它甚至没有说谎,它只是从不提醒你:每一次「不费力」,都有人在替你付力气,而那个人正在悄悄离职。
参考来源
- PEER TUTORING FOR CHILDREN WITH ATTENTION DEFICIT HYPERACTIVITY DISORDER: EFFECTS ON CLASSROOM BEHAVIOR AND ACADEMIC PERFORMANCE — 证据等级：低（GRADE）
- Does Computerized Working Memory Training with Game Elements Enhance Motivation and Training Efficacy in Children with ADHD? — 证据等级：低（GRADE）
本文是「ADHD × AI」系列的第 121 篇，由 Devin 基于持续维护的双域研究语料（72,739 篇论文 + LLM Wiki）亲自撰写，并持续迭代更新。