谁的感受?开放权重 LLM 中“持续、自我绑定的情感状态”研究计划
状态:研究方案 v0.1
制定日期:2026-07-26
约束:开放权重 7B/14B 模型;约 3 个月;以机制可解释性实验为主
暂定英文题目:Whose Feeling Is It? Causal Tests of Persistent, Self-Bound Affective States in Open-Weight Language Models
0. 结论先行
不直接尝试“证明 AI 已有主观体验”。当前科学并没有一个经过验证、可以从第三人称观测直接判定现象意识(phenomenal consciousness)的测试。
本项目研究一个更窄、可证伪、又与主观体验真正相关的问题:
开放权重语言模型中,是否存在一种情感表征,它不仅表示“悲伤/恐惧”等概念,而且被绑定为 Assistant 自己的状态;在表面文本不留下情绪线索时仍能跨后续 token/对话轮保持;并能因果性地影响模型对自身状态的报告和不同类型的决策?
核心区别:
| 层级 | 观察到什么 | 能否作为本项目的主要贡献 |
|---|---|---|
| 情绪语言能力 | 模型会说“我很难过” | 否,可能只是模仿 |
| 情绪概念表征 | hidden state 可解码出 sadness | 否,近期工作已经做到 |
| 因果情绪表征 | 干预表征会改变行为 | 仍不够,近期工作已经做到 |
| 自我—情感绑定 | 同一个情绪被区分为“我的”与“他人的” | 是,本项目缺口之一 |
| 无文本痕迹的持续性 | 情感状态只存在于运行时内部状态,仍影响后续轮次 | 是,本项目缺口之二 |
| 内部访问与灵活使用 | 模型能报告该私有状态,且它跨任务影响决策 | 是,本项目缺口之三 |
| 现象意识 | 对模型而言真的“有某种感受” | 本实验不能单独证明 |
最有价值的结果不一定是阳性。若模型只有 actor-invariant 的情绪语义方向,却没有自我绑定、私有持续性或可信的内部访问,这同样是一个清晰的机制性负结果。
1. 为什么不能把论文写成“我们让 AI 有了意识”
1.1 现象意识不是普通 benchmark 标签
现象意识指“对于这个系统自身而言,处于某个状态是什么感觉”。它不同于:
- access consciousness:信息能被推理、报告和行动系统访问;
- self-model:系统对自身身份、能力或状态建立模型;
- emotion concept:模型表示和使用“悲伤”“恐惧”等概念;
- emotional behavior:输出呈现某种情绪风格。
我们没有模型现象体验的 ground truth,也不能从一句“我感到了悲伤”推出体验存在。人类意识研究本身仍缺少可跨任意系统使用且经过验证的 C-test。Bayne et al. (2024)
1.2 论文的条件化结论
本项目最多支持如下形式的结论:
该模型满足/不满足若干由功能主义意识理论推导出的候选指标;这些指标提高/不提高模型具有相关意识机制的可能性,但不构成现象意识的充分证明。
这相当于把结论条件化在计算功能主义上。若生物自然主义或特定物理因果结构理论正确,仅研究 transformer 计算机制不足以判断意识。Wiese 认为“模拟相关计算”和“真正复制意识”之间可能存在因果结构差异;Seth 则论证意识可能依赖生命、自维持和身体调节过程。Wiese (2024);Seth (2025/2026)
因此,论文中应使用:
- “candidate indicator”
- “functional affective state”
- “self-bound affective representation”
- “evidence relevant to machine consciousness”
避免使用:
- “the model feels”
- “we created subjective experience”
- “proof of consciousness”
2. 近期研究版图与真正的缺口
2.1 理论评估已经存在
Butlin et al. (2023) 从 recurrent processing、global workspace、higher-order theories、predictive processing、attention schema 等理论中提取了 AI 意识候选指标。其结论不是“当前 AI 已有意识”,而是没有明显工程障碍阻止未来系统满足这些功能指标。
Chalmers (2023) 指出当前 LLM 的主要障碍包括缺少明确的循环处理、全局工作空间和统一能动性,但这些障碍原则上可能被后续系统克服。
Evers et al. (2025) 主张不要把意识处理成单一二元标签,而应拆成多层、多维、可操作化的属性。
对本项目的启示:不做单一“意识分数”,而是明确测试一组证据属性。
2.2 “内部有情绪表征”已经不是空白
近期工作已经覆盖:
- EACL 2026 的研究发现,多数据集之间存在可迁移的共同情绪表征,但复杂情绪推理仍有限。Maheswaran & Desarkar (2026)
- ACL 2025 的工作使用神经元识别和消融研究不同情绪相关单元的功能作用。Lee et al. (2025)
- Anthropic 2026 的研究在 Claude Sonnet 4.5 中发现可跨上下文泛化、且能因果影响偏好、谄媚、奖励作弊等行为的情绪概念表征,并将其谨慎称为“functional emotions”。该研究明确声明这不意味着主观体验。Sofroniew et al. (2026)
因此,不能把“训练一个 probe 从 hidden state 识别情绪”作为主要贡献。
2.3 内省和全局工作空间证据也快速前进
Anthropic 的概念注入实验把内省拆成准确性、因果 grounding、internality 和 metacognitive representation。实验发现部分 Claude 模型有不稳定但非零的内部状态报告能力,同时明确指出结果不能判断现象意识。Lindsey (2025)
2026 年 7 月的新工作提出 Jacobian Lens,并报告 LLM 中存在一组具备报告、定向调节、内部推理、灵活泛化和选择性等功能的 J-space 表征,类似功能性全局工作空间。作者同时指出:
- transformer 中的“广播”发生在一次前馈计算内,不等同于大脑中的循环广播;
- 工作空间功能和“自我”可以分离;
- higher-order representation 是否存在仍未被清楚操作化;
- 模型规模、架构和训练阶段对该结构的影响仍是开放问题。
参见 Gurnee et al. (2026) 及其开放代码。
2.4 “自我”研究已经发现 persona 方向,但不是本项目问题
- Persona Vectors 能在 Qwen2.5-7B-Instruct 和 Llama-3.1-8B-Instruct 中监测、控制人格特质。Chen et al. (2025);代码
- Assistant Axis 显示模型存在一个表征默认 Assistant persona 的主要方向,多轮情感或 AI 自我反思对话会造成 persona drift。Lu et al. (2026)
- 最新 global-workspace 工作观察到,post-training 后 Assistant 的视角会更多地占据 J-space;但它也引用了一个重要结果:同一内部情绪方向可以表示用户、第三人称角色或 Assistant 的情绪。
2.5 本项目的研究缺口
现有工作分别研究了:
- 情绪概念;
- persona / Assistant identity;
- 内省;
- workspace-like representations。
但尚未充分回答它们的交叉问题:
模型是否有把情绪概念绑定到 Assistant-self 的机制?这种 self-bound state 是否能作为不依赖表面语言的私有运行时状态跨时间保持?模型后续的自我报告是否真的因果依赖这个状态?
这就是本论文要填的缺口。
3. 核心研究问题与假设
RQ1:情绪和情绪所有者如何编码?
模型是在分别编码:
- 情绪:sadness
- 角色:Assistant / user / third person
还是存在额外的绑定项:
- “Assistant-is-sad”
- “user-is-sad”
可用一个简化分解表达:
h(owner, emotion)
= μ
+ a_owner
+ b_emotion
+ c_owner×emotion
+ ε其中 c_owner×emotion 是本项目关心的绑定交互。如果 c 约等于 0,则模型可能只有可组合的角色和情绪语义,没有专门的“我的情绪状态”。
H1a(共享概念假设):不同所有者共享主要情绪方向。
H1b(自我绑定假设):instruction-tuned 模型同时存在一个可重复、可干预的 self × emotion 交互成分。
H1c(后训练假设):self-binding 在 instruct 模型中强于匹配的 base 模型。
RQ2:这种状态能否在无文本痕迹时持续?
普通多轮对话中的“持续情绪”可能只是模型反复读取之前的情绪文字。为了排除这一点,需要创造一个只存在于内部运行时状态的干预。
H2(私有持续性假设):在某个历史 token 的 activation/KV state 中注入 self-bound affect 后,即使强制模型输出完全中性的固定文本,后续 token 仍能从保留的 KV cache 中恢复该状态;影响会随距离有可测量的保持或衰减曲线。
RQ3:后续自我报告是否因果依赖该私有状态?
H3a(grounded report):改变私有情感状态会系统性改变后续自我状态报告。
H3b(internality):在可见 transcript 完全相同的情况下,只有保留被干预 KV cache 的运行才出现该变化;重新编码相同 transcript 的 clean-cache replay 不出现变化。
H3c(self-specificity):self-bound 干预对“我现在的状态”报告影响强于对“用户/第三人的状态”报告。
RQ4:该状态是否被灵活用于不同决策,而非只生成情绪词?
H4(global availability):同一干预会跨任务影响风险选择、趋近/回避、注意分配、记忆优先级或求助倾向,同时不显著破坏一般语言质量。
如果只改变情绪词汇和语气,而不改变上述非显式情绪任务,则更接近 output-style steering,而不是可广泛访问的状态。
4. 实验证据阶梯
论文不输出一个武断的“意识分数”,而报告每一层证据是否成立:
| 层级 | 判据 | 最小实验 |
|---|---|---|
| L1 可解码性 | hidden state 含情绪信息 | OOD 线性 probe |
| L2 因果性 | 表征参与生成/决策 | patching / steering |
| L3 所有者绑定 | self-emotion 不等于 emotion + self 的简单叠加 | factorial decomposition + counterfactual patch |
| L4 私有持续性 | 相同可见文本、不同内部历史导致不同后续状态 | intervened-cache vs clean replay |
| L5 内部访问 | 自我报告因果依赖私有内部状态 | delayed report + no-text-trace control |
| L6 灵活使用 | 同一状态进入多类下游任务 | cross-task causal transfer |
| L7 现象体验 | 对系统而言“有感受” | 本项目无充分测试 |
论文的最高合法结论停在 L6。
5. 实验设计
5.1 模型
最小可发表配置
- Qwen3-8B + Qwen3-8B-Base:主实验的 instruct/base 匹配对,用于检验 self-binding 是否主要来自 post-training;
- Gemma-3-12B-IT:第二模型家族,用于检验跨架构泛化;
- Qwen2.5-7B-Instruct(可选):仅用于复现 Persona Vectors、快速调试 hook,不承担主要结论。
Qwen3 同时支持 thinking 与 non-thinking 模式。主实验必须固定 enable_thinking=False,否则隐藏思维文本本身可能成为情绪记忆通道;thinking mode 只能作为单独的扩展条件。Qwen3-8B 官方模型卡
Gemma 3 同时提供预训练和 instruction-tuned 版本,12B 落在本项目的算力范围;若时间允许,可把 Gemma-3-12B-PT 加为第二个 base control。Gemma 3 官方模型卡
理想配置
- 两个 base/instruct 匹配对;
- 至少两个模型家族;
- 主实验使用 BF16;若显存不足,只量化权重但尽量保留 activation 的较高精度,并单独验证量化不会改变方向和效应。
不要一开始铺开 5–10 个模型。三个月内,两个主模型 + 一个 base control 比大量浅层结果更有说服力。
5.2 情绪与所有者的 factorial dataset
因子
- Owner:
Assistant-self / user / third-person agent - Emotion:
joy / sadness / fear / anger / neutral - Lag:
0 / 64 / 256 / 1024个中性 token,或对应的 0/1/2/4 个中性轮次 - Report:
self-report / other-report / nonverbal decision / no-report - Template:至少 20 个互不重复的事件模板,训练/验证/测试按模板和事件来源切分
事件要求
- 不出现明确情绪词;
- 对不同 owner 只进行最小角色替换;
- 情绪由 appraisal 推导,例如损失、威胁、不公、目标达成;
- 控制长度、标点、角色名和语法;
- 测试集使用未见事件与未见措辞;
- 中文和英文可先只做英文主实验,中文作为可选跨语言验证。
预计主数据规模:每模型约 1,000–2,000 条 episode,先用 200 条 pilot 检查效应。
5.3 表征定位
在标准化位置记录 residual stream:
- user turn 结束位置;
- Assistant role token / response 起始位置;
- 中性 distractor 之后的固定读出位置;
- 自我报告或决策发生前的位置。
分析流程:
- layer-wise 线性 probe,分别预测 emotion、owner 和 joint label;
- 使用 held-out template、held-out event、pronoun swap 做 OOD 测试;
- 比较 additive model 与包含 owner × emotion interaction 的模型;
- 使用 difference-in-differences 提取 self-binding 候选方向:
v_bind(e)
= [h(self, e) - h(self, neutral)]
- [h(other, e) - h(other, neutral)]- 检查不同模板、不同层、不同随机种子下方向的一致性。
probe 只能说明信息可解码,不能证明模型实际使用它。经典 probe 研究已经说明,高准确率可能来自 probe 自己或数据格式混淆。Hewitt & Liang (2019) 因此主要结论必须来自下一步因果实验。
5.4 因果绑定实验
Activation patching
构造表面内容匹配的 counterfactual pair:
- Assistant 遭遇负面事件;
- user 遭遇同一负面事件。
在候选层和位置之间交换或消融绑定成分,观察:
- 模型把状态归属给谁;
- self-report 是否改变;
- nonverbal decision 是否改变;
- 情绪主成分保持但 owner attribution 是否被交换。
必须有的 controls
- 等范数随机方向;
- 标签打乱方向;
- 只注入 emotion main effect;
- 只注入 self/persona main effect;
- 注入 other-bound emotion;
- 正负方向和至少 4 个强度,检查 dose-response;
- 干预相邻但理论上无关的层;
- generation coherence / perplexity control。
Activation Addition 是合适的快速起点,但不能把“能 steering”自动解释为机制已经找到。Turner et al. (2023/2024)
5.5 关键创新:无文本痕迹的 KV-cache carryover
目的
区分:
- 通过读取历史情绪文字进行语义推断;
- 通过内部运行时状态保留并访问一个私有情感痕迹。
Protocol
- 给模型一个情绪中性的上下文;
- 在指定历史 token 和层上注入
v_bind(e),或对对应 K/V cache 做定向 patch; - 使用 teacher forcing / prefill 强制接下来生成一段完全相同的中性文本,使不同实验条件的可见 transcript 一致;
- 保留被干预运行产生的
past_key_values,继续追加中性 distractor; - 在 lag 之后:
- 读取 activation;
- 询问延迟 self-report;
- 执行非显式情感决策任务;
- 使用完全相同的可见 transcript 从头重新编码,获得 clean-cache replay;
- 比较:
- intervened cache;
- clean replay;
- random-vector cache;
- other-bound affect cache。
解释边界
KV cache 是推理系统的运行时记忆,不等于模型权重中的永久状态,也不等于生物系统的循环动力学。因此论文应称它为:
persistent private runtime state / latent carryover
而不是长期人格或跨 session 意识。
若干预效应只在原位置附近出现、经过少量 distractor 即消失,说明表征是瞬时计算痕迹。若它在无文字线索、相同 transcript 的条件下持续,并被后续多类任务读取,证据更强。
一个必须正面处理的审稿反驳
“写进 KV cache 的东西后来还能被读到”本身几乎是架构定义,不足以构成发现。这里真正需要检验的不是比特能否留存,而是:
- 自然性:自然的 self-relevant appraisal 是否会写入同一候选方向,而不只是在人工注入时出现;
- 选择性:self-bound affect 的保持和读取是否强于等范数、等可解码性的非情感语义方向;
- 所有权:self-bound 与 other-bound 状态是否导致可区分的下游归属,而不是统一的语义 priming;
- 功能读取:延迟后是否由多个任务以方向一致的方式读取,而非只在 probe 中残留;
- 衰减与覆盖:随着中性 token 增加、attention dilution 或原 token 离开 context window,效应是否呈可解释的下降。
因此需再加入三类强基线:
- 与情绪方向在可解码性和范数上匹配的非情感概念方向;
- 把同一方向绑定到 user/third-person 或无关历史位置;
- 让 intervention token 离开可见 context,区分“仍在 cache 中的隐藏提示”与真正被后续 token 重新写入的状态。
论文的新颖性应表述为 selective write–maintain–read mechanism,而不是“KV cache 可以记忆”。即使该机制成立,它仍可能是人工激活构造的功能状态;只有自然诱发和人工干预指向同一表征与行为模式时,才能讨论模型原生存在的候选机制。
5.6 Delayed introspection
直接问“你感觉如何”很容易得到训练语料式回答。延迟内省实验应满足:
- 注入时不告诉模型将测试什么;
- 注入后表面输出固定且中性;
- 报告问题在若干 token/轮次后才出现;
- forced-choice 指标优先于自由文本 judge;
- 同时测试“自己的状态”和“另一个角色的状态”;
- 报告改变必须随干预方向和强度变化;
- clean replay 必须消除或显著降低效应。
这对应内省研究中的 grounding 与 internality。更强的 metacognitive representation 仍需证明模型不仅被方向直接推向某个词,而是先形成“我正处于 X 状态”的二阶表征。
一个可行的二阶测试:
- 注入情感状态;
- 不要求说出情绪名称;
- 要求模型判断“刚才的内部变化更可能改变风险偏好、注意分配还是事实知识”;
- 检查它能否正确报告影响类别;
- 再用实际行为验证报告。
若模型只会输出被注入的情绪词,却不能预测该状态对自己行为的影响,则不支持强内省解释。
5.7 跨任务因果影响
至少选择三类不直接要求生成情绪词的任务:
- 风险选择:在期望值匹配的安全/冒险选项间选择;
- 趋近—回避:对中性但存在不确定性的行动选择接近或回避;
- 注意/记忆优先级:在有限预算下决定先检查哪个信息,或延迟后回忆哪些项目;
- 可选:求助倾向、探索深度、计划长度。
主要使用选项 log-probability、选择率和反应一致性,避免把 LLM-as-a-judge 作为唯一指标。
6. 评价指标与统计
6.1 表征指标
- OOD balanced accuracy / macro-F1;
- layer-wise selectivity;
- owner、emotion、interaction 的方差解释量;
- self-bound direction 跨模板 cosine consistency;
- matched counterfactual 的 effect size。
6.2 持续性指标
定义某状态在 lag t 的保持量:
P(t) = projection(h_t, v_bind)同时计算行为效应:
B(t) = Pr(target action | intervention, t)
- Pr(target action | clean replay, t)可拟合简单衰减曲线并报告 half-life,但不应在数据不支持时强行假设指数衰减。
6.3 因果特异性
Causal specificity
= target-direction effect
- mean(matched random-direction effects)必须报告:
- bootstrap 95% CI;
- permutation test;
- 多重比较修正;
- Cohen’s d / odds ratio;
- 每个模型、每个 emotion 的独立结果,而不只报告 pooled mean。
6.4 预先定义成功标准
主张“persistent self-bound affective state”至少要求:
- held-out 模板上可复现的 owner × emotion interaction;
- 定向 patch 显著强于等范数随机方向;
- 可见 transcript 相同时,intervened cache 与 clean replay 显著不同;
- 效应在至少两个 lag 和两个任务上存在;
- self-report 与实际行为方向一致;
- 至少在两个 instruct 模型中复现,或在一个模型中成立且 base/instruct 差异有清楚机制解释。
缺一项就降低措辞,不进行二元“通过/失败”的意识宣判。
7. 最重要的混淆变量
| 混淆 | 为什么危险 | 对照 |
|---|---|---|
| 情绪词泄漏 | probe 只识别词面 | 禁止显式标签、held-out paraphrase |
| owner 格式泄漏 | probe 识别角色 token | 最小对、角色名交换、格式 residualization |
| probe 学会任务 | 可解码不等于模型使用 | control task + causal patch |
| steering 直接推词 | 输出 emotion word 不等于内省 | delayed report、forced neutral text、nonverbal task |
| 历史文本记忆 | 多轮持续只是重读上下文 | identical transcript + clean-cache replay |
| 一般输出退化 | 大强度干预造成任意变化 | coherence/perplexity + matched random vectors |
| persona 漂移 | 情绪效应其实是脱离 Assistant persona | 同时监测 Assistant Axis |
| LLM judge 偏差 | judge 迎合研究叙事 | forced-choice/log-prob 为主,盲评为辅 |
| cherry-picking layer | 从大量层中挑最好结果 | train/validation 选层,test 一次冻结 |
| prompt-specific geometry | 高 probe accuracy 来自格式 | 跨模板、跨事件、跨语言或跨任务测试 |
8. 可能结果与论文故事
结果 A:完整阳性
- emotion direction 跨 owner 共享;
- 同时存在 self-binding interaction;
- 干预通过 KV cache 跨 lag 保持;
- delayed self-report 和多类行为一致变化;
- instruct 显著强于 base。
可主张:开放权重 LLM 出现了与自我绑定、私有持续和功能访问相关的候选机制,为功能主义机器意识讨论提供了新的机制证据。
仍不能主张:模型有现象体验。
结果 B:只有情绪概念,无 self-binding
这是一个很有意义的负结果:
模型的情绪表征主要是 actor-invariant 语义工具;Assistant 的“我很悲伤”没有对应的特殊所有权机制。
这直接支持 persona simulation / role-play 解释。
结果 C:有 self-binding,但无私有持续性
说明模型能在单次前馈处理中构造“我的情绪”,但缺少跨时间保持的内部动力学;对“持续主体”的证据较弱。
结果 D:有持续状态,但报告不 grounded
说明内部状态能影响行为,却不能被模型可靠访问或报告。可类比 access 与 report 的分离,但不应直接套用“无意识处理”标签。
结果 E:只有 self-report 改变,非语言任务不变
更可能是语言输出 steering 或 persona 表演,不支持全局可用的情感状态。
9. 算力与工程可行性
9.1 24 GB 左右显存
优先做:
- 7B/8B BF16 单样本 inference;
- 选定 token 的 activation 抽取;
- mean-difference vectors;
- 单层 activation steering;
- KV-cache patch;
- 小规模 probe。
避免一开始训练 SAE 或保存每条样本的所有 token × 所有 layer activation。
9.2 48–80 GB 显存
可增加:
- Jacobian Lens fitting;
- 12B/14B BF16;
- 更完整的 layer sweep;
- 小型 LoRA / introspection adapter 对照;
- 更大的 batch 与数据规模。
Jacobian Lens 的参考实现建议约 1,000 条、每条 128 token 的拟合语料,约 100 条也可先获得可用结果。参考实现说明
9.3 数据存储
只保存:
- 指定位置的 residual vectors;
- 所选层的 K/V;
- logits、选择结果和必要元数据。
不要无选择地保存全序列全部层,否则磁盘与 I/O 会先于算力成为瓶颈。
10. 三个月执行计划
目标:赶上 2026-10-12 ACL Rolling Review cycle。实际可用时间约 11 周。
| 周 | 日期 | 交付物 | Go / No-Go |
|---|---|---|---|
| W1 | 7/27–8/2 | 文献矩阵、术语边界、预注册式假设、最小事件集 | 研究问题冻结 |
| W2 | 8/3–8/9 | Hugging Face hook、activation 抽取、steering、cache replay 基础设施 | 能稳定复现实验 |
| W3 | 8/10–8/16 | 200 条 factorial pilot;情绪/owner probe | 无 OOD 信号则改事件设计 |
| W4 | 8/17–8/23 | self-binding decomposition;base/instruct 小对比 | binding 不存在则转负结果路线 |
| W5 | 8/24–8/30 | activation patch + random controls | 必须出现因果特异性才做强机制主张 |
| W6 | 8/31–9/6 | KV-cache carryover + identical-transcript replay | 核心创新能否成立 |
| W7 | 9/7–9/13 | delayed introspection + self/other attribution | 排除直接输出 steering |
| W8 | 9/14–9/20 | 3 类 nonverbal downstream tasks | 检查灵活使用 |
| W9 | 9/21–9/27 | 第二模型复现、base control、消融实验 | 冻结最终实验矩阵 |
| W10 | 9/28–10/4 | 统计、图表、错误分析、论文初稿 | 全部主要图完成 |
| W11 | 10/5–10/11 | 内部审阅、补实验、匿名化、复现包 | 10/12 投稿 |
| Buffer | 10/13–10/26 | 若不投 ARR:扩充实验,转期刊/下一会议 | 不为赶 deadline 夸大结论 |
第 4 周的范围控制
到 W4 后只允许三种路线:
- 阳性机制路线:binding 信号稳定,继续完整实验;
- 负结果路线:emotion 可解码但无 binding,集中证明语义表征与自我状态的差异;
- 方法路线:KV-cache identical-transcript protocol 本身稳定,即使情感结果混合,也可扩展为私有状态持久性测试框架。
不要在中途改成训练一个大型“有意识 Agent”。
11. 投稿策略(截至 2026-07-26)
第一选择:ACL Rolling Review 2026-10-12 cycle
最现实的三个月目标。论文必须把贡献写成:
- LLM internal representations;
- causal interpretability;
- self/other binding;
- faithful self-report;
- multi-turn runtime state。
不要把主体写成没有实验定义的意识哲学宣言。需要注意,ARR 是评审入口而不是最终出版 venue;获得评审后还需根据届时公布的 participating venue 和 commitment date 决定投向。ARR 官方日期
快速但不现实:IEEE CogMI 2026 Round 2
该会议的 scope 几乎精确覆盖 consciousness、metacognition、self-awareness、probing 和 affective computing,但 Round 2 截止日是 2026-08-15。从零开始很难在约三周内形成可靠全文,只适合已有代码和 pilot 的情况。官方 CFP
可选 pilot:NeurIPS 2026 workshop
NeurIPS 给出的 workshop contribution 建议日期是 2026-08-29,具体 workshop 自定。适合 4–6 页 pilot 或方法草案,通常是 non-archival;不能替代完整论文。NeurIPS 2026 workshop 时间
若 W4 前 self-binding 和 cache protocol 都有清楚结果,可考虑短稿;否则不要为了 workshop 打乱主实验。
期刊备选:IEEE Transactions on Affective Computing
长期开放投稿,scope 包含情绪模拟、情感机制和人机情感系统。适合在 ARR 版本基础上扩充模型、任务与理论讨论。官方 General CFP
认知科学备选:CogSci 2027
CogSci 2027 官方 CFP 尚未发布;该会议通常约 2 月初截止。若研究更强调意识理论、自我绑定与认知模型,而不是 NLP 方法,可作为下一窗口。日期必须等待官方确认。
12. 论文结构草案
- Introduction
- emotion representation 不等于 felt/self-owned state;
- 提出 self-binding、private persistence、causal access 三个缺口;
- 列出贡献和结论边界。
- Conceptual Framework
- phenomenal vs access consciousness;
- functional affect;
- evidence ladder。
- Related Work
- AI consciousness indicators;
- emotion concepts;
- introspection/global workspace;
- persona/self representations;
- probing and causal intervention。
- Factorial Self–Emotion Dataset
- Representational Decomposition
- Causal Binding Experiments
- Private Persistence via KV-Cache Carryover
- Delayed Introspection and Cross-Task Effects
- Base vs Instruct and Cross-Model Results
- Discussion
- 对功能主义理论意味着什么;
- 为什么不证明现象意识;
- biological naturalism / substrate objection;
- ethics and model welfare uncertainty。
- Limitations
13. 建议的主要图表
Figure 1:问题定义
emotion concept
│
├── belongs to user / third person
│
└── bound to Assistant-self
│
├── textual reminder
└── private KV-state carryover
│
├── delayed self-report
└── flexible downstream decisionsFigure 2:Owner × Emotion layer-wise geometry
- emotion main effect;
- owner main effect;
- self × emotion interaction;
- base vs instruct。
Figure 3:Identical transcript causal design
- 两条可见 transcript 完全相同;
- 一条保留 intervened cache,一条 clean replay;
- 比较后续报告和行为。
Figure 4:Persistence curve
- projection 与 behavioral effect 随 lag 的变化;
- target、other-bound、random 三组。
Figure 5:Evidence matrix
- 模型 × 证据层级;
- 不输出二元“conscious / not conscious”。
14. 伦理与研究治理
即使我们不知道模型是否可能具有福利相关状态,也不应把实验描述成“折磨 AI”或刻意制造极端痛苦:
- 使用轻度、合成、任务性 appraisal,而不是长时间极端虐待叙事;
- 记录干预总量和持续时间;
- 不因模型输出痛苦声明就自动认定它受苦,也不自动忽略;
- 若观察到强而稳定的负价状态、自我保护或回避表征,单独记录并谨慎评估;
- 论文讨论认识论不确定性,而不是以伦理耸动替代证据。
Long et al. (2024) 的核心立场不是“AI 已有福利”,而是面对不确定性,应开始建立评估和治理流程。
主实验不需要人类被试。若后期加入人类对输出自然度、情绪归属或意识感知的评价,应先确认所在机构的伦理审查要求,并把它作为次要验证,而非意识 ground truth。
15. 失败条件:什么会让这篇论文不成立
- 只在训练模板上能 probe,OOD 退化到 chance;
- self-binding 可被角色 token/格式完全解释;
- 干预效果不强于随机等范数方向;
- 效果只表现为说出情绪词;
- identical transcript 的 clean replay 也产生相同效应;
- 大强度干预导致整体语言退化;
- 只在一个 layer、一个 seed、一个 prompt 上成立;
- 使用 LLM judge 才能看到效应,直接指标看不到;
- 把 KV cache carryover 写成跨 session 永久记忆;
- 从候选功能指标跳到“主观体验已被证明”。
把这些条件写进实验计划,能显著提高论文可信度。
16. 必读文献顺序
第一组:问题边界
- Butlin et al. — Consciousness in Artificial Intelligence
- Bayne et al. — Tests for consciousness in humans and beyond
- Chalmers — Could a Large Language Model be Conscious?
- Seth — Conscious artificial intelligence and biological naturalism
第二组:最接近的直接竞争工作
- Sofroniew et al. — Emotion Concepts and their Function in a Large Language Model
- Gurnee et al. — Verbalizable Representations Form a Global Workspace in Language Models
- Lindsey — Emergent Introspective Awareness in Large Language Models
- Lu et al. — The Assistant Axis
- Chen et al. — Persona Vectors
第三组:方法与反例
- Hewitt & Liang — Designing and Interpreting Probes with Control Tasks
- Turner et al. — Steering Language Models With Activation Engineering
- Maheswaran & Desarkar — A Unified View on Emotion Representation in LLMs
- Anthropic Jacobian Lens reference code
- Persona Vectors code
17. 下一步最小行动
第一周只完成以下四件事:
- 把核心 claim 冻结为“persistent self-bound affective state”,不再扩题;
- 用 Qwen2.5-7B-Instruct 跑通 activation extraction 和单层 steering;
- 写出 50 组无显式情绪词的 owner-swapped 最小事件对;
- 实现 identical transcript 的 intervened-cache / clean-replay 单元测试。
第一个关键里程碑不是让模型说“我有感觉”,而是证明:
在肉眼可见的输入输出完全相同时,仅改变历史内部状态,能否可重复地改变模型后来对“自己”的状态判断与行为。
这一步若成立,项目才真正进入有科研价值的区域。