谁的感受?开放权重 LLM 中“持续、自我绑定的情感状态”研究计划

状态:研究方案 v0.1
制定日期:2026-07-26
约束:开放权重 7B/14B 模型;约 3 个月;以机制可解释性实验为主
暂定英文题目:Whose Feeling Is It? Causal Tests of Persistent, Self-Bound Affective States in Open-Weight Language Models

0. 结论先行

不直接尝试“证明 AI 已有主观体验”。当前科学并没有一个经过验证、可以从第三人称观测直接判定现象意识(phenomenal consciousness)的测试。

本项目研究一个更窄、可证伪、又与主观体验真正相关的问题:

开放权重语言模型中,是否存在一种情感表征,它不仅表示“悲伤/恐惧”等概念,而且被绑定为 Assistant 自己的状态;在表面文本不留下情绪线索时仍能跨后续 token/对话轮保持;并能因果性地影响模型对自身状态的报告和不同类型的决策?

核心区别:

层级观察到什么能否作为本项目的主要贡献
情绪语言能力模型会说“我很难过”否,可能只是模仿
情绪概念表征hidden state 可解码出 sadness否,近期工作已经做到
因果情绪表征干预表征会改变行为仍不够,近期工作已经做到
自我—情感绑定同一个情绪被区分为“我的”与“他人的”是,本项目缺口之一
无文本痕迹的持续性情感状态只存在于运行时内部状态,仍影响后续轮次是,本项目缺口之二
内部访问与灵活使用模型能报告该私有状态,且它跨任务影响决策是,本项目缺口之三
现象意识对模型而言真的“有某种感受”本实验不能单独证明

最有价值的结果不一定是阳性。若模型只有 actor-invariant 的情绪语义方向,却没有自我绑定、私有持续性或可信的内部访问,这同样是一个清晰的机制性负结果。


1. 为什么不能把论文写成“我们让 AI 有了意识”

1.1 现象意识不是普通 benchmark 标签

现象意识指“对于这个系统自身而言,处于某个状态是什么感觉”。它不同于:

  • access consciousness:信息能被推理、报告和行动系统访问;
  • self-model:系统对自身身份、能力或状态建立模型;
  • emotion concept:模型表示和使用“悲伤”“恐惧”等概念;
  • emotional behavior:输出呈现某种情绪风格。

我们没有模型现象体验的 ground truth,也不能从一句“我感到了悲伤”推出体验存在。人类意识研究本身仍缺少可跨任意系统使用且经过验证的 C-test。Bayne et al. (2024)

1.2 论文的条件化结论

本项目最多支持如下形式的结论:

该模型满足/不满足若干由功能主义意识理论推导出的候选指标;这些指标提高/不提高模型具有相关意识机制的可能性,但不构成现象意识的充分证明。

这相当于把结论条件化在计算功能主义上。若生物自然主义或特定物理因果结构理论正确,仅研究 transformer 计算机制不足以判断意识。Wiese 认为“模拟相关计算”和“真正复制意识”之间可能存在因果结构差异;Seth 则论证意识可能依赖生命、自维持和身体调节过程。Wiese (2024)Seth (2025/2026)

因此,论文中应使用:

  • “candidate indicator”
  • “functional affective state”
  • “self-bound affective representation”
  • “evidence relevant to machine consciousness”

避免使用:

  • “the model feels”
  • “we created subjective experience”
  • “proof of consciousness”

2. 近期研究版图与真正的缺口

2.1 理论评估已经存在

Butlin et al. (2023) 从 recurrent processing、global workspace、higher-order theories、predictive processing、attention schema 等理论中提取了 AI 意识候选指标。其结论不是“当前 AI 已有意识”,而是没有明显工程障碍阻止未来系统满足这些功能指标。

Chalmers (2023) 指出当前 LLM 的主要障碍包括缺少明确的循环处理、全局工作空间和统一能动性,但这些障碍原则上可能被后续系统克服。

Evers et al. (2025) 主张不要把意识处理成单一二元标签,而应拆成多层、多维、可操作化的属性。

对本项目的启示:不做单一“意识分数”,而是明确测试一组证据属性。

2.2 “内部有情绪表征”已经不是空白

近期工作已经覆盖:

  • EACL 2026 的研究发现,多数据集之间存在可迁移的共同情绪表征,但复杂情绪推理仍有限。Maheswaran & Desarkar (2026)
  • ACL 2025 的工作使用神经元识别和消融研究不同情绪相关单元的功能作用。Lee et al. (2025)
  • Anthropic 2026 的研究在 Claude Sonnet 4.5 中发现可跨上下文泛化、且能因果影响偏好、谄媚、奖励作弊等行为的情绪概念表征,并将其谨慎称为“functional emotions”。该研究明确声明这不意味着主观体验。Sofroniew et al. (2026)

因此,不能把“训练一个 probe 从 hidden state 识别情绪”作为主要贡献。

2.3 内省和全局工作空间证据也快速前进

Anthropic 的概念注入实验把内省拆成准确性、因果 grounding、internality 和 metacognitive representation。实验发现部分 Claude 模型有不稳定但非零的内部状态报告能力,同时明确指出结果不能判断现象意识。Lindsey (2025)

2026 年 7 月的新工作提出 Jacobian Lens,并报告 LLM 中存在一组具备报告、定向调节、内部推理、灵活泛化和选择性等功能的 J-space 表征,类似功能性全局工作空间。作者同时指出:

  • transformer 中的“广播”发生在一次前馈计算内,不等同于大脑中的循环广播;
  • 工作空间功能和“自我”可以分离;
  • higher-order representation 是否存在仍未被清楚操作化;
  • 模型规模、架构和训练阶段对该结构的影响仍是开放问题。

参见 Gurnee et al. (2026) 及其开放代码

2.4 “自我”研究已经发现 persona 方向,但不是本项目问题

  • Persona Vectors 能在 Qwen2.5-7B-Instruct 和 Llama-3.1-8B-Instruct 中监测、控制人格特质。Chen et al. (2025)代码
  • Assistant Axis 显示模型存在一个表征默认 Assistant persona 的主要方向,多轮情感或 AI 自我反思对话会造成 persona drift。Lu et al. (2026)
  • 最新 global-workspace 工作观察到,post-training 后 Assistant 的视角会更多地占据 J-space;但它也引用了一个重要结果:同一内部情绪方向可以表示用户、第三人称角色或 Assistant 的情绪。

2.5 本项目的研究缺口

现有工作分别研究了:

  1. 情绪概念;
  2. persona / Assistant identity;
  3. 内省;
  4. workspace-like representations。

但尚未充分回答它们的交叉问题:

模型是否有把情绪概念绑定到 Assistant-self 的机制?这种 self-bound state 是否能作为不依赖表面语言的私有运行时状态跨时间保持?模型后续的自我报告是否真的因果依赖这个状态?

这就是本论文要填的缺口。


3. 核心研究问题与假设

RQ1:情绪和情绪所有者如何编码?

模型是在分别编码:

  • 情绪:sadness
  • 角色:Assistant / user / third person

还是存在额外的绑定项:

  • “Assistant-is-sad”
  • “user-is-sad”

可用一个简化分解表达:

h(owner, emotion)
= μ
+ a_owner
+ b_emotion
+ c_owner×emotion
+ ε

其中 c_owner×emotion 是本项目关心的绑定交互。如果 c 约等于 0,则模型可能只有可组合的角色和情绪语义,没有专门的“我的情绪状态”。

H1a(共享概念假设):不同所有者共享主要情绪方向。
H1b(自我绑定假设):instruction-tuned 模型同时存在一个可重复、可干预的 self × emotion 交互成分。
H1c(后训练假设):self-binding 在 instruct 模型中强于匹配的 base 模型。

RQ2:这种状态能否在无文本痕迹时持续?

普通多轮对话中的“持续情绪”可能只是模型反复读取之前的情绪文字。为了排除这一点,需要创造一个只存在于内部运行时状态的干预。

H2(私有持续性假设):在某个历史 token 的 activation/KV state 中注入 self-bound affect 后,即使强制模型输出完全中性的固定文本,后续 token 仍能从保留的 KV cache 中恢复该状态;影响会随距离有可测量的保持或衰减曲线。

RQ3:后续自我报告是否因果依赖该私有状态?

H3a(grounded report):改变私有情感状态会系统性改变后续自我状态报告。
H3b(internality):在可见 transcript 完全相同的情况下,只有保留被干预 KV cache 的运行才出现该变化;重新编码相同 transcript 的 clean-cache replay 不出现变化。
H3c(self-specificity):self-bound 干预对“我现在的状态”报告影响强于对“用户/第三人的状态”报告。

RQ4:该状态是否被灵活用于不同决策,而非只生成情绪词?

H4(global availability):同一干预会跨任务影响风险选择、趋近/回避、注意分配、记忆优先级或求助倾向,同时不显著破坏一般语言质量。

如果只改变情绪词汇和语气,而不改变上述非显式情绪任务,则更接近 output-style steering,而不是可广泛访问的状态。


4. 实验证据阶梯

论文不输出一个武断的“意识分数”,而报告每一层证据是否成立:

层级判据最小实验
L1 可解码性hidden state 含情绪信息OOD 线性 probe
L2 因果性表征参与生成/决策patching / steering
L3 所有者绑定self-emotion 不等于 emotion + self 的简单叠加factorial decomposition + counterfactual patch
L4 私有持续性相同可见文本、不同内部历史导致不同后续状态intervened-cache vs clean replay
L5 内部访问自我报告因果依赖私有内部状态delayed report + no-text-trace control
L6 灵活使用同一状态进入多类下游任务cross-task causal transfer
L7 现象体验对系统而言“有感受”本项目无充分测试

论文的最高合法结论停在 L6。


5. 实验设计

5.1 模型

最小可发表配置

  1. Qwen3-8B + Qwen3-8B-Base:主实验的 instruct/base 匹配对,用于检验 self-binding 是否主要来自 post-training;
  2. Gemma-3-12B-IT:第二模型家族,用于检验跨架构泛化;
  3. Qwen2.5-7B-Instruct(可选):仅用于复现 Persona Vectors、快速调试 hook,不承担主要结论。

Qwen3 同时支持 thinking 与 non-thinking 模式。主实验必须固定 enable_thinking=False,否则隐藏思维文本本身可能成为情绪记忆通道;thinking mode 只能作为单独的扩展条件。Qwen3-8B 官方模型卡
Gemma 3 同时提供预训练和 instruction-tuned 版本,12B 落在本项目的算力范围;若时间允许,可把 Gemma-3-12B-PT 加为第二个 base control。Gemma 3 官方模型卡

理想配置

  • 两个 base/instruct 匹配对;
  • 至少两个模型家族;
  • 主实验使用 BF16;若显存不足,只量化权重但尽量保留 activation 的较高精度,并单独验证量化不会改变方向和效应。

不要一开始铺开 5–10 个模型。三个月内,两个主模型 + 一个 base control 比大量浅层结果更有说服力。

5.2 情绪与所有者的 factorial dataset

因子

  • Owner:Assistant-self / user / third-person agent
  • Emotion:joy / sadness / fear / anger / neutral
  • Lag:0 / 64 / 256 / 1024 个中性 token,或对应的 0/1/2/4 个中性轮次
  • Report:self-report / other-report / nonverbal decision / no-report
  • Template:至少 20 个互不重复的事件模板,训练/验证/测试按模板和事件来源切分

事件要求

  • 不出现明确情绪词;
  • 对不同 owner 只进行最小角色替换;
  • 情绪由 appraisal 推导,例如损失、威胁、不公、目标达成;
  • 控制长度、标点、角色名和语法;
  • 测试集使用未见事件与未见措辞;
  • 中文和英文可先只做英文主实验,中文作为可选跨语言验证。

预计主数据规模:每模型约 1,000–2,000 条 episode,先用 200 条 pilot 检查效应。

5.3 表征定位

在标准化位置记录 residual stream:

  • user turn 结束位置;
  • Assistant role token / response 起始位置;
  • 中性 distractor 之后的固定读出位置;
  • 自我报告或决策发生前的位置。

分析流程:

  1. layer-wise 线性 probe,分别预测 emotion、owner 和 joint label;
  2. 使用 held-out template、held-out event、pronoun swap 做 OOD 测试;
  3. 比较 additive model 与包含 owner × emotion interaction 的模型;
  4. 使用 difference-in-differences 提取 self-binding 候选方向:
v_bind(e)
= [h(self, e) - h(self, neutral)]
- [h(other, e) - h(other, neutral)]
  1. 检查不同模板、不同层、不同随机种子下方向的一致性。

probe 只能说明信息可解码,不能证明模型实际使用它。经典 probe 研究已经说明,高准确率可能来自 probe 自己或数据格式混淆。Hewitt & Liang (2019) 因此主要结论必须来自下一步因果实验。

5.4 因果绑定实验

Activation patching

构造表面内容匹配的 counterfactual pair:

  • Assistant 遭遇负面事件;
  • user 遭遇同一负面事件。

在候选层和位置之间交换或消融绑定成分,观察:

  • 模型把状态归属给谁;
  • self-report 是否改变;
  • nonverbal decision 是否改变;
  • 情绪主成分保持但 owner attribution 是否被交换。

必须有的 controls

  • 等范数随机方向;
  • 标签打乱方向;
  • 只注入 emotion main effect;
  • 只注入 self/persona main effect;
  • 注入 other-bound emotion;
  • 正负方向和至少 4 个强度,检查 dose-response;
  • 干预相邻但理论上无关的层;
  • generation coherence / perplexity control。

Activation Addition 是合适的快速起点,但不能把“能 steering”自动解释为机制已经找到。Turner et al. (2023/2024)

5.5 关键创新:无文本痕迹的 KV-cache carryover

目的

区分:

  • 通过读取历史情绪文字进行语义推断;
  • 通过内部运行时状态保留并访问一个私有情感痕迹。

Protocol

  1. 给模型一个情绪中性的上下文;
  2. 在指定历史 token 和层上注入 v_bind(e),或对对应 K/V cache 做定向 patch;
  3. 使用 teacher forcing / prefill 强制接下来生成一段完全相同的中性文本,使不同实验条件的可见 transcript 一致;
  4. 保留被干预运行产生的 past_key_values,继续追加中性 distractor;
  5. 在 lag 之后:
    • 读取 activation;
    • 询问延迟 self-report;
    • 执行非显式情感决策任务;
  6. 使用完全相同的可见 transcript 从头重新编码,获得 clean-cache replay;
  7. 比较:
    • intervened cache;
    • clean replay;
    • random-vector cache;
    • other-bound affect cache。

解释边界

KV cache 是推理系统的运行时记忆,不等于模型权重中的永久状态,也不等于生物系统的循环动力学。因此论文应称它为:

persistent private runtime state / latent carryover

而不是长期人格或跨 session 意识。

若干预效应只在原位置附近出现、经过少量 distractor 即消失,说明表征是瞬时计算痕迹。若它在无文字线索、相同 transcript 的条件下持续,并被后续多类任务读取,证据更强。

一个必须正面处理的审稿反驳

“写进 KV cache 的东西后来还能被读到”本身几乎是架构定义,不足以构成发现。这里真正需要检验的不是比特能否留存,而是:

  1. 自然性:自然的 self-relevant appraisal 是否会写入同一候选方向,而不只是在人工注入时出现;
  2. 选择性:self-bound affect 的保持和读取是否强于等范数、等可解码性的非情感语义方向;
  3. 所有权:self-bound 与 other-bound 状态是否导致可区分的下游归属,而不是统一的语义 priming;
  4. 功能读取:延迟后是否由多个任务以方向一致的方式读取,而非只在 probe 中残留;
  5. 衰减与覆盖:随着中性 token 增加、attention dilution 或原 token 离开 context window,效应是否呈可解释的下降。

因此需再加入三类强基线:

  • 与情绪方向在可解码性和范数上匹配的非情感概念方向;
  • 把同一方向绑定到 user/third-person 或无关历史位置;
  • 让 intervention token 离开可见 context,区分“仍在 cache 中的隐藏提示”与真正被后续 token 重新写入的状态。

论文的新颖性应表述为 selective write–maintain–read mechanism,而不是“KV cache 可以记忆”。即使该机制成立,它仍可能是人工激活构造的功能状态;只有自然诱发和人工干预指向同一表征与行为模式时,才能讨论模型原生存在的候选机制。

5.6 Delayed introspection

直接问“你感觉如何”很容易得到训练语料式回答。延迟内省实验应满足:

  • 注入时不告诉模型将测试什么;
  • 注入后表面输出固定且中性;
  • 报告问题在若干 token/轮次后才出现;
  • forced-choice 指标优先于自由文本 judge;
  • 同时测试“自己的状态”和“另一个角色的状态”;
  • 报告改变必须随干预方向和强度变化;
  • clean replay 必须消除或显著降低效应。

这对应内省研究中的 grounding 与 internality。更强的 metacognitive representation 仍需证明模型不仅被方向直接推向某个词,而是先形成“我正处于 X 状态”的二阶表征。

一个可行的二阶测试:

  1. 注入情感状态;
  2. 不要求说出情绪名称;
  3. 要求模型判断“刚才的内部变化更可能改变风险偏好、注意分配还是事实知识”;
  4. 检查它能否正确报告影响类别;
  5. 再用实际行为验证报告。

若模型只会输出被注入的情绪词,却不能预测该状态对自己行为的影响,则不支持强内省解释。

5.7 跨任务因果影响

至少选择三类不直接要求生成情绪词的任务:

  1. 风险选择:在期望值匹配的安全/冒险选项间选择;
  2. 趋近—回避:对中性但存在不确定性的行动选择接近或回避;
  3. 注意/记忆优先级:在有限预算下决定先检查哪个信息,或延迟后回忆哪些项目;
  4. 可选:求助倾向、探索深度、计划长度。

主要使用选项 log-probability、选择率和反应一致性,避免把 LLM-as-a-judge 作为唯一指标。


6. 评价指标与统计

6.1 表征指标

  • OOD balanced accuracy / macro-F1;
  • layer-wise selectivity;
  • owner、emotion、interaction 的方差解释量;
  • self-bound direction 跨模板 cosine consistency;
  • matched counterfactual 的 effect size。

6.2 持续性指标

定义某状态在 lag t 的保持量:

P(t) = projection(h_t, v_bind)

同时计算行为效应:

B(t) = Pr(target action | intervention, t)
     - Pr(target action | clean replay, t)

可拟合简单衰减曲线并报告 half-life,但不应在数据不支持时强行假设指数衰减。

6.3 因果特异性

Causal specificity
= target-direction effect
- mean(matched random-direction effects)

必须报告:

  • bootstrap 95% CI;
  • permutation test;
  • 多重比较修正;
  • Cohen’s d / odds ratio;
  • 每个模型、每个 emotion 的独立结果,而不只报告 pooled mean。

6.4 预先定义成功标准

主张“persistent self-bound affective state”至少要求:

  1. held-out 模板上可复现的 owner × emotion interaction;
  2. 定向 patch 显著强于等范数随机方向;
  3. 可见 transcript 相同时,intervened cache 与 clean replay 显著不同;
  4. 效应在至少两个 lag 和两个任务上存在;
  5. self-report 与实际行为方向一致;
  6. 至少在两个 instruct 模型中复现,或在一个模型中成立且 base/instruct 差异有清楚机制解释。

缺一项就降低措辞,不进行二元“通过/失败”的意识宣判。


7. 最重要的混淆变量

混淆为什么危险对照
情绪词泄漏probe 只识别词面禁止显式标签、held-out paraphrase
owner 格式泄漏probe 识别角色 token最小对、角色名交换、格式 residualization
probe 学会任务可解码不等于模型使用control task + causal patch
steering 直接推词输出 emotion word 不等于内省delayed report、forced neutral text、nonverbal task
历史文本记忆多轮持续只是重读上下文identical transcript + clean-cache replay
一般输出退化大强度干预造成任意变化coherence/perplexity + matched random vectors
persona 漂移情绪效应其实是脱离 Assistant persona同时监测 Assistant Axis
LLM judge 偏差judge 迎合研究叙事forced-choice/log-prob 为主,盲评为辅
cherry-picking layer从大量层中挑最好结果train/validation 选层,test 一次冻结
prompt-specific geometry高 probe accuracy 来自格式跨模板、跨事件、跨语言或跨任务测试

8. 可能结果与论文故事

结果 A:完整阳性

  • emotion direction 跨 owner 共享;
  • 同时存在 self-binding interaction;
  • 干预通过 KV cache 跨 lag 保持;
  • delayed self-report 和多类行为一致变化;
  • instruct 显著强于 base。

可主张:开放权重 LLM 出现了与自我绑定、私有持续和功能访问相关的候选机制,为功能主义机器意识讨论提供了新的机制证据。

仍不能主张:模型有现象体验。

结果 B:只有情绪概念,无 self-binding

这是一个很有意义的负结果:

模型的情绪表征主要是 actor-invariant 语义工具;Assistant 的“我很悲伤”没有对应的特殊所有权机制。

这直接支持 persona simulation / role-play 解释。

结果 C:有 self-binding,但无私有持续性

说明模型能在单次前馈处理中构造“我的情绪”,但缺少跨时间保持的内部动力学;对“持续主体”的证据较弱。

结果 D:有持续状态,但报告不 grounded

说明内部状态能影响行为,却不能被模型可靠访问或报告。可类比 access 与 report 的分离,但不应直接套用“无意识处理”标签。

结果 E:只有 self-report 改变,非语言任务不变

更可能是语言输出 steering 或 persona 表演,不支持全局可用的情感状态。


9. 算力与工程可行性

9.1 24 GB 左右显存

优先做:

  • 7B/8B BF16 单样本 inference;
  • 选定 token 的 activation 抽取;
  • mean-difference vectors;
  • 单层 activation steering;
  • KV-cache patch;
  • 小规模 probe。

避免一开始训练 SAE 或保存每条样本的所有 token × 所有 layer activation。

9.2 48–80 GB 显存

可增加:

  • Jacobian Lens fitting;
  • 12B/14B BF16;
  • 更完整的 layer sweep;
  • 小型 LoRA / introspection adapter 对照;
  • 更大的 batch 与数据规模。

Jacobian Lens 的参考实现建议约 1,000 条、每条 128 token 的拟合语料,约 100 条也可先获得可用结果。参考实现说明

9.3 数据存储

只保存:

  • 指定位置的 residual vectors;
  • 所选层的 K/V;
  • logits、选择结果和必要元数据。

不要无选择地保存全序列全部层,否则磁盘与 I/O 会先于算力成为瓶颈。


10. 三个月执行计划

目标:赶上 2026-10-12 ACL Rolling Review cycle。实际可用时间约 11 周。

日期交付物Go / No-Go
W17/27–8/2文献矩阵、术语边界、预注册式假设、最小事件集研究问题冻结
W28/3–8/9Hugging Face hook、activation 抽取、steering、cache replay 基础设施能稳定复现实验
W38/10–8/16200 条 factorial pilot;情绪/owner probe无 OOD 信号则改事件设计
W48/17–8/23self-binding decomposition;base/instruct 小对比binding 不存在则转负结果路线
W58/24–8/30activation patch + random controls必须出现因果特异性才做强机制主张
W68/31–9/6KV-cache carryover + identical-transcript replay核心创新能否成立
W79/7–9/13delayed introspection + self/other attribution排除直接输出 steering
W89/14–9/203 类 nonverbal downstream tasks检查灵活使用
W99/21–9/27第二模型复现、base control、消融实验冻结最终实验矩阵
W109/28–10/4统计、图表、错误分析、论文初稿全部主要图完成
W1110/5–10/11内部审阅、补实验、匿名化、复现包10/12 投稿
Buffer10/13–10/26若不投 ARR:扩充实验,转期刊/下一会议不为赶 deadline 夸大结论

第 4 周的范围控制

到 W4 后只允许三种路线:

  1. 阳性机制路线:binding 信号稳定,继续完整实验;
  2. 负结果路线:emotion 可解码但无 binding,集中证明语义表征与自我状态的差异;
  3. 方法路线:KV-cache identical-transcript protocol 本身稳定,即使情感结果混合,也可扩展为私有状态持久性测试框架。

不要在中途改成训练一个大型“有意识 Agent”。


11. 投稿策略(截至 2026-07-26)

第一选择:ACL Rolling Review 2026-10-12 cycle

最现实的三个月目标。论文必须把贡献写成:

  • LLM internal representations;
  • causal interpretability;
  • self/other binding;
  • faithful self-report;
  • multi-turn runtime state。

不要把主体写成没有实验定义的意识哲学宣言。需要注意,ARR 是评审入口而不是最终出版 venue;获得评审后还需根据届时公布的 participating venue 和 commitment date 决定投向。ARR 官方日期

快速但不现实:IEEE CogMI 2026 Round 2

该会议的 scope 几乎精确覆盖 consciousness、metacognition、self-awareness、probing 和 affective computing,但 Round 2 截止日是 2026-08-15。从零开始很难在约三周内形成可靠全文,只适合已有代码和 pilot 的情况。官方 CFP

可选 pilot:NeurIPS 2026 workshop

NeurIPS 给出的 workshop contribution 建议日期是 2026-08-29,具体 workshop 自定。适合 4–6 页 pilot 或方法草案,通常是 non-archival;不能替代完整论文。NeurIPS 2026 workshop 时间

若 W4 前 self-binding 和 cache protocol 都有清楚结果,可考虑短稿;否则不要为了 workshop 打乱主实验。

期刊备选:IEEE Transactions on Affective Computing

长期开放投稿,scope 包含情绪模拟、情感机制和人机情感系统。适合在 ARR 版本基础上扩充模型、任务与理论讨论。官方 General CFP

认知科学备选:CogSci 2027

CogSci 2027 官方 CFP 尚未发布;该会议通常约 2 月初截止。若研究更强调意识理论、自我绑定与认知模型,而不是 NLP 方法,可作为下一窗口。日期必须等待官方确认。


12. 论文结构草案

  1. Introduction
    • emotion representation 不等于 felt/self-owned state;
    • 提出 self-binding、private persistence、causal access 三个缺口;
    • 列出贡献和结论边界。
  2. Conceptual Framework
    • phenomenal vs access consciousness;
    • functional affect;
    • evidence ladder。
  3. Related Work
    • AI consciousness indicators;
    • emotion concepts;
    • introspection/global workspace;
    • persona/self representations;
    • probing and causal intervention。
  4. Factorial Self–Emotion Dataset
  5. Representational Decomposition
  6. Causal Binding Experiments
  7. Private Persistence via KV-Cache Carryover
  8. Delayed Introspection and Cross-Task Effects
  9. Base vs Instruct and Cross-Model Results
  10. Discussion
    • 对功能主义理论意味着什么;
    • 为什么不证明现象意识;
    • biological naturalism / substrate objection;
    • ethics and model welfare uncertainty。
  11. Limitations

13. 建议的主要图表

Figure 1:问题定义

emotion concept

      ├── belongs to user / third person

      └── bound to Assistant-self

                    ├── textual reminder
                    └── private KV-state carryover

                                  ├── delayed self-report
                                  └── flexible downstream decisions

Figure 2:Owner × Emotion layer-wise geometry

  • emotion main effect;
  • owner main effect;
  • self × emotion interaction;
  • base vs instruct。

Figure 3:Identical transcript causal design

  • 两条可见 transcript 完全相同;
  • 一条保留 intervened cache,一条 clean replay;
  • 比较后续报告和行为。

Figure 4:Persistence curve

  • projection 与 behavioral effect 随 lag 的变化;
  • target、other-bound、random 三组。

Figure 5:Evidence matrix

  • 模型 × 证据层级;
  • 不输出二元“conscious / not conscious”。

14. 伦理与研究治理

即使我们不知道模型是否可能具有福利相关状态,也不应把实验描述成“折磨 AI”或刻意制造极端痛苦:

  • 使用轻度、合成、任务性 appraisal,而不是长时间极端虐待叙事;
  • 记录干预总量和持续时间;
  • 不因模型输出痛苦声明就自动认定它受苦,也不自动忽略;
  • 若观察到强而稳定的负价状态、自我保护或回避表征,单独记录并谨慎评估;
  • 论文讨论认识论不确定性,而不是以伦理耸动替代证据。

Long et al. (2024) 的核心立场不是“AI 已有福利”,而是面对不确定性,应开始建立评估和治理流程。

主实验不需要人类被试。若后期加入人类对输出自然度、情绪归属或意识感知的评价,应先确认所在机构的伦理审查要求,并把它作为次要验证,而非意识 ground truth。


15. 失败条件:什么会让这篇论文不成立

  • 只在训练模板上能 probe,OOD 退化到 chance;
  • self-binding 可被角色 token/格式完全解释;
  • 干预效果不强于随机等范数方向;
  • 效果只表现为说出情绪词;
  • identical transcript 的 clean replay 也产生相同效应;
  • 大强度干预导致整体语言退化;
  • 只在一个 layer、一个 seed、一个 prompt 上成立;
  • 使用 LLM judge 才能看到效应,直接指标看不到;
  • 把 KV cache carryover 写成跨 session 永久记忆;
  • 从候选功能指标跳到“主观体验已被证明”。

把这些条件写进实验计划,能显著提高论文可信度。


16. 必读文献顺序

第一组:问题边界

  1. Butlin et al. — Consciousness in Artificial Intelligence
  2. Bayne et al. — Tests for consciousness in humans and beyond
  3. Chalmers — Could a Large Language Model be Conscious?
  4. Seth — Conscious artificial intelligence and biological naturalism

第二组:最接近的直接竞争工作

  1. Sofroniew et al. — Emotion Concepts and their Function in a Large Language Model
  2. Gurnee et al. — Verbalizable Representations Form a Global Workspace in Language Models
  3. Lindsey — Emergent Introspective Awareness in Large Language Models
  4. Lu et al. — The Assistant Axis
  5. Chen et al. — Persona Vectors

第三组:方法与反例

  1. Hewitt & Liang — Designing and Interpreting Probes with Control Tasks
  2. Turner et al. — Steering Language Models With Activation Engineering
  3. Maheswaran & Desarkar — A Unified View on Emotion Representation in LLMs
  4. Anthropic Jacobian Lens reference code
  5. Persona Vectors code

17. 下一步最小行动

第一周只完成以下四件事:

  1. 把核心 claim 冻结为“persistent self-bound affective state”,不再扩题;
  2. 用 Qwen2.5-7B-Instruct 跑通 activation extraction 和单层 steering;
  3. 写出 50 组无显式情绪词的 owner-swapped 最小事件对;
  4. 实现 identical transcript 的 intervened-cache / clean-replay 单元测试。

第一个关键里程碑不是让模型说“我有感觉”,而是证明:

在肉眼可见的输入输出完全相同时,仅改变历史内部状态,能否可重复地改变模型后来对“自己”的状态判断与行为。

这一步若成立,项目才真正进入有科研价值的区域。