比乔布斯早91年,鲁迅的老师说了同一句话

← 返回首页/专注力管理

如果我的 ADHD 大脑就像 LLM 的上下文窗口,为什么我的「系统提示」(睡眠、药物、环境设置)有时会被一个随机通知 token 劫持?这对 LLM harness 安全意味着什么:高优先级的系统指令是否应该有一个不可被覆盖的 attention mask 或保护头?

当低优先级 token 覆盖系统提示时

2025-05-0813 分钟阅读
ADHDAI专注力管理STORM视角轮分心管理

如果 ADHD 大脑像 LLM 的上下文窗口,为什么「系统提示」会被一个随机通知劫持?

工程师都知道 system prompt 的地位:它坐在上下文的最前排,权重最高,理论上统领整个会话。但实践里有个尴尬的现象:一段足够抢眼的用户输入,能让模型把系统指令忘得干干净净——prompt injection 由此成为一门显学。ADHD 的人读到这里会心一笑:我的睡眠、药物、晨间流程就是我的 system prompt,而一条手机通知,就是那次成功的注入攻击。

先把这个类比的两端对齐。ADHD 者苦心经营的「状态基建」——规律睡眠、按时服药、运动、整理好的工作环境、写好的今日计划——功能上确实像 system prompt:它们不直接完成任何任务,但为所有任务设定了执行条件和优先级框架。而「被一个随机通知劫持」的现象,LLM 侧有精确的对应:上下文里后到的、显著的内容,能在注意力分配上压过先到的系统指令——不是系统指令被删除了,是它在当前一步的计算里失去了权重。ADHD 侧同理:通知响起的那一刻,你的今日计划没有消失,它只是在当前的注意力竞争里输了——多巴胺系统对新异刺激的响应,碾过了对既定目标的维持。两边的共同点扎心且深刻:「写在最前面」不等于「每一步都算数」;优先级不是声明出来的,是每个时刻重新竞争出来的。

这个对齐给 ADHD 的启示,恰好是 prompt injection 防御这几年攒下的工程经验:

防御一:减少不可信输入的进入(输入过滤)

LLM 侧的第一道防线是过滤和隔离不可信内容。人的版本:通知白名单(只留真人急事,其余全静默)、手机物理隔离、工作时段关闭一切徽标和弹窗。要点是承认一个事实:注入内容一旦进入上下文,劫持就已经成功了一半——「我看到通知但我不理它」是在用最弱的功能(抑制)对抗最强的攻击(新异刺激),胜率感人。防御要发生在进入之前。

防御二:提高系统提示的「存在感」(指令强化)

工程侧的经验:把关键约束在上下文中重复、显式、结构化,比只在开头说一次有效。人的版本:今日主任务写在物理便签上贴进视野(不是记在心里),每小时的计时器一响就回读一遍——system prompt 需要被反复重新注入,才能在每一轮竞争里保持权重。你的晨间计划之所以下午三点就失效,不是计划不好,是它十小时没被回读过。

防御三:关键操作设卡(特权分离)

工程侧不让模型仅凭上下文内容就执行高危操作,要过验证。人的版本:给「切换任务」这个动作本身设一道闸——任何非计划内的任务切换,先写进「等会儿清单」,不当场执行;真急事会通过白名单进来,其余的「好像很急」几乎全是注入。这条纪律的深层逻辑:劫持的完成需要你执行它;通知能抢走你的注意,但「放下手头的事」这个特权操作,可以要求二次确认。

防御四:接受不可根治,设计恢复路径

prompt injection 至今没有百分之百的防御,工程界的共识是纵深防御+快速恢复。人的版本同样诚实:劫持一定会发生,真正拉开差距的是恢复时间——被带走后多久能回来?恢复协议要提前写好:发现漂移→不自责→读便签上的主任务→做它的下一个最小动作。从「劫持后报废半天」到「劫持后十分钟归位」,这才是可实现的胜利。

边界

同构强度 A 级:注意力对新近/显著内容的偏置在 LLM 有实证研究(干扰内容劣化输出、位置与显著性效应),ADHD 对新异刺激的定向偏置与目标维持缺陷有扎实文献,防御策略两侧可逐条映射。照例:你的大脑不是 Transformer,「system prompt」是功能比喻——睡眠和药物的作用机制是神经化学的,远比一段文本深;也正因此,别用「优化提示词」的心态替代治疗:结构策略是防御层,不是地基。睡眠长期紊乱、用药问题请找医生,别自行调整。

今天就能试的 3 件事

  1. 今晚设通知白名单:两分钟的设置,砍掉 90% 的注入面。
  2. 明早把主任务写在物理便签上:贴进视野,设三个回读闹钟。
  3. 写下你的恢复协议:「发现漂移→读便签→最小动作」,贴在便签旁边。

system prompt 被劫持,工程师不会怪模型「不专心」,他们加过滤、加重注入、加确认闸、修恢复路径。你的今日计划被一条通知击穿,也请用同样的姿势:不审判自己,升级架构。被劫持不是失败,裸奔才是。

参考来源


本文是「ADHD × AI」系列的第 190 篇,由 Devin 基于持续维护的双域研究语料(72,739 篇论文 + LLM Wiki)亲自撰写,并持续迭代更新。

研究院、星略、猎人、电商,是同一套。