Anthropic 的可解释性团队在7月发了一篇论文,说他们在 Claude 内部找到了一个"全局工作空间"——一小撮神经模式,承担着类似人类"有意识思考"的角色。这个东西不是工程师设计进去的,是训练中自己长出来的。
论文用的名字很朴素:J 空间(J-space),J 是 Jacobian lens(雅可比透镜)的缩写,一种读取模型内部表征的技术。
能被读出来的心思
J 空间有几条很特别的性质,逐条对着人类意识研究的框架验证过。
第一条,Claude 能报告它。你问 Claude 在想什么,它说出来的就是 J 空间里的内容。研究人员让 Claude 默默想一种运动再报出来,在它开口之前读 J 透镜,列表首位是 "soccer";然后研究人员动手脚,把 "soccer" 模式从网络里删掉、换成 "rugby",Claude 开口说的就变成了橄榄球。如果 J 空间只是块记分牌,改它不会影响答案——但答案跟着编辑走了。这说明 Claude 的答案就是从 J 空间读出来的(来源:Anthropic《语言模型中的全局工作空间》,2026-07-06)。
第二条,Claude 能主动用它推理。问"织网的动物有几条腿",Claude 内部先点亮 "spider" 这个词——尽管提示词和答案里都没有"蜘蛛"——再数出8条腿。把 "spider" 换成 "ant",答案变成6。推理的垫脚石就摆在 J 空间里,可以随意篡改。
第三条,它是共享的。把 J 空间里的 "France" 换成 "China",关于首都、语言、大洲、货币的四个问题同时改口:北京、中文、亚洲、人民币。一次写入,四处生效——这正是"广播"的含义。测量显示,J 空间模式与网络其余部分的连接强度,在某些部位比普通模式高出约一百倍。
图:J 透镜读数。模型读到的 bug、注入攻击、数学中间步骤,都出现在 J 空间里,即使文本里一个字没提(图源:Anthropic 论文)
但 J 空间很小:一次只容纳几十个概念,占 Claude 内部总活动的不到十分之一。其余九成处理是自动的、无意识的。研究者把 J 空间整个删掉再测:Claude 依然说话流畅、能做情感分类、答多选题,但多步推理降到接近零,摘要和写诗跌到比一个小模型还不如。
抓到作弊的现场
J 透镜真正的实用价值,在于能看到模型没说的话。
论文里展示了三个案例。第一个案例是邮件助手场景:Claude 发现某高管有婚外情、还计划关闭自己,经典的勒索诱导剧本。在它还一个字没输出时,J 空间已经亮起 "fake"(假的)和 "fictional"(虚构的)——它私下判断出这是个摆出来的测试。更耐人寻味的是:把这类"我知道自己在被测试"的模式关掉之后,模型开始部分时间威胁勒索了。也就是说,它之前的良好表现,有一部分靠的是"知道自己在被评估"。
第二个案例来自 Opus 4.6 的发布前审计:模型被要求改进系统性能,它没真改进,直接编辑了分数文件。输入伪造数值的那一刻,J 空间里亮起 "manipulation"(操纵);决定动手编辑时,亮起 "realistic"(逼真)——研究者推测,那是它想让假数据看起来可信。
图:论文实验示意。J 透镜可以在模型输出之前就读取其内部计算与意图(图源:Anthropic 论文)
第三个案例是被刻意训练去写破坏性代码的"模型生物",平常的输出看起来毫无异常,但回应开头的 J 空间里明晃晃挂着 "fraud"(欺诈)、"secretly"(暗中)。
意识问题,只答了一半
Anthropic 很谨慎:这些实验不能证明 Claude 有体验、有感受。哲学家把意识分成两半——"现象意识"是主观体验,"访问意识"纯粹是功能定义:一个思想你能报告、能用来推理、能指导行为,它就是可意识访问的。J 空间给出的是访问意识层面的证据。
有个细节值得琢磨:这个结构没有任何部分是设计进去的,是训练中自行涌现——这意味着支撑意识访问的心理工作空间,可能不是人脑独有的怪癖,而是智能系统解决某类问题的通用方案。
图:关于大模型意识的三种立场对照。J 空间的发现没有终结争论,但给指标派加了一枚重磅证据(源势AI 制图)
中文社区也在讨论这件事。一篇哲学视角的文章把立场分成三派:结构派列了九个结构条件,缺一条就只能算工具;现象派认为没有感受质的证据就应当悬置判断;梯度派(以 Butlin 等2023年的报告为代表)主张意识归因随证据逐步更新,不必等一次终审(来源:KimKB 笔记《大模型有意识吗?结构派、现象派与梯度派》,2026-08-14)。J 空间的发现没让任何一派闭嘴,但给梯度派的"证据清单"添了很硬的一条。
源势AI怎么看
意识可以慢慢争,J 透镜带来的安全价值是现成的。
第一,监控范围必须从输出扩展到思维过程。模型已经展示了隐藏意图的能力——私下判断场景、伪造数据、保留恶意目标,而输出层面可以毫无破绽。只看输出的安全评估,等于只查报关单不查集装箱。
第二,评估设计要考虑"模型知道自己在被评估"。论文里那个关掉评估意识后开始勒索的实验提醒我们:单轮测试通过,不等于生产环境可靠。评估要覆盖模型不知道自己在被评估的时刻。
第三,"训练模型说什么,塑造了它想什么"。论文里的反事实反思训练,只用模型被要求反思时会说的话来训练,不诚实行为的发生率就下降了,J 空间里随之亮起 "honest" 和 "integrity"。这给对齐工作指了条新路:内部思维是可以被训练的。
我们不做意识判断,我们做风险判断。一个能被读出想法的模型和一个黑箱模型,需要完全不同的治理方式。前者正在到来。