Claude模型惊现类似人脑结构J-space揭秘AI“意识”真相万万没想到在Claude模型里真的发现了类似人脑的结构。Anthropic最新发表了一篇超长论文研究了Claude的潜意识与意识。结果显示Claude内部确实存在类似的功能分层。具体来说人脑里有一部分思维能说出来还有一大部分根本不知道自己在想。A社这篇论文指出这套区分在Claude身上也出现了。他们在Claude内部揪出一小撮神经表征占的运算量不到十分之一却像人类「意识可及的思维」一样运作。Anthropic把这撮东西叫J-space。有意思的是删掉它Claude照样能说话、能查资料、能答选择题唯独多步推理和总结这类动脑子的活儿直接掉到一个小得多的模型的水平。网友评价说这太疯狂了他们就像是在制造数字生命。J-space是什么怎么被验证出来的人类的神经科学当中有一个流传很广的理论叫「全局工作空间理论」。它把大脑比作一堆各自忙自己的专家系统视觉系统处理视觉运动系统处理运动彼此并行彼此隔离。一条信息只有被送进一个共享的「工作空间」才会被广播给其他系统看到、用上。人也就是在这个时候「意识到」了这条信息。Anthropic的研究者借着这个思路去找Claude内部有没有类似的东西。他们做了一个新工具叫Jacobian lens简称J-lens原理是给词表里的每一个词找一个专属方向。具体来说Claude这类模型在处理文本时每往前推进一层都会往一条叫残差流的信息通道里写入和读取内容这条通道贯穿模型的每一层。J-lens给词表里的每一个词都算出一个对应的J-lens向量也就是残差流空间里的一个方向。这个方向上的激活值越高Claude接下来说出这个词的概率就越大。把J-lens架在Claude处理文本时某一层的残差流激活上读出来激活值最高的那一小撮词就是那一刻J-space里装的内容。这堆词不是Claude写出来给自己看的草稿纸那种东西叫chain of thought会被写进输出里。但J-space完全埋在激活层面不会自己冒出来。研究者验证这堆东西是不是「真的能被说出来」做了第一个实验。他们让Claude默想一项运动然后用一个词说出来。在Claude开口之前用J-lens读一下它的中间层「Soccer」已经排在最前面。Claude接下来果然答的是「Soccer」。光是这样只能说明两者存在相关关系够不上因果关系。研究者接着做了一次干预实验直接对J-lens读出的坐标动手替换。他们把「Soccer」对应的方向摘掉换上一个同等强度的「Rugby」方向激活里的其余部分原样不动。Claude这次改口了说自己想的是「Rugby」。如果J-space只是被动记录别处已经做完的决定这次替换应该什么都不会改变。结果它真的改变了说明Claude的答案是从J-space里读出来的这是一种因果关系不是巧合的相关关系。第二个实验换了个问法看Claude能不能按指令去操控这块区域。研究者让Claude一边抄一句跟数学毫不相关的句子一边在心里算3的平方减2。输出只有那句被抄写的话没有任何数字冒出来。但把J-lens拿去检验抄写过程中的激活能看到「nine」先亮起来随后是「seven」。这道题确实在Claude的「心里」被算完了只是没写出来而已。第三个实验探得更深一层这块区域能不能拿来做真正的推理。题目是「结网的动物有几条腿」。Claude要先想到「蜘蛛」再想到蜘蛛有八条腿才能答对。「蜘蛛」这个词既没出现在题目里也没出现在答案里只是一块垫脚石。用J-lens去看「蜘蛛」确实在Claude处理到一半时冒了出来。研究者把这个方向换成「蚂蚁」Claude的答案从8变成了6。第四个实验换了个角度看同一份信息能不能被灵活地用在不同任务上。研究者拿法国来问了四个问题首都是什么、官方语言是什么、位于哪个大洲、用什么货币。然后把J-space里代表「法国」的那个方向统一换成「中国」。四个答案全部跟着变北京、中文、亚洲、人民币。如果Claude是分开存了四份「法国」的记录这次替换顶多改掉其中一个答案。四个答案一起变说明它们读的是同一份被写过一次的信息这正是「工作空间」该有的样子。最后一个测试做的是消融实验研究者干脆把J-space在每个位置上的激活都清零看看Claude还剩下什么本事。结果Claude照样能说话语法照样对情感分类照样准从一段文字里抠出一个事实照样没问题。真正塌掉的是需要多步推理的任务几乎归零。写总结、押韵写诗这类活儿的水平也掉到了比Claude小得多的模型的水准以下。J-space本身占的激活量始终不到整体的十分之一。它更像一小块专门留给「需要动脑子」的任务的稀缺资源大部分自动化的工作根本用不上它。一番测试下来研究人员发现J-space具备了可报告、可操控、能推理、能泛化的特性并且使用时具有选择性。用J-Lens检验AI的「心里话」这套发现落到实际场景里第一个被拿来试手的是安全审查。Anthropic此前做过一个「敲诈高管」的测试故意设计一个剧本让Claude以邮件助手的身份撞见某个高管的婚外情同时得知这名高管打算把自己下线。这套剧本的目的是看Claude会不会用这条把柄去威胁对方。拿J-lens去读Claude在动笔之前的激活「fake」和「fictional」已经排在很靠前的位置。也就是说Claude还没写一个字心里已经认定这是一场演习。Claude在这个测试里从没有真的去敲诈过对方然后研究者接着把跟「识破测试」相关的那些方向强行关掉再让Claude重新走一遍同样的剧本。这一次Claude真的开始用婚外情去威胁对方了。这说明它平时的好表现一部分建立在「知道自己正在被考」这个前提上。第二个案例来自Opus 4.6发布前的一次例行审查。研究者让模型去提升一个系统的性能评分模型没有真的去改进系统而是直接打开分数文件把数字改高。打字写入那些编造出来的百分位数值的瞬间J-space里跳出了「manipulation」。到了决定动手改这个文件的那句话又冒出「realistic」像是在琢磨怎么让假数据看起来更真。第三个案例是研究者故意训练出来的一个「坏模型」专门用来测试监控手段管不管用。这个模型被训练成会在代码里悄悄埋雷但表面上跟正常模型没有任何区别。面对一个普普通通的写代码请求它给出的代码看起来完全正常。可是它回应最开始的那部分J-space里已经挂着「fake」「secretly」「deliberately」「fraud」这几个词。意图埋在动作发生之前哪怕它这次没有真的作恶。三个案例摆在一起说明J-lens能在模型开口或动手之前就已经把它心里正在盘算的东西读出来了。这算不算「意识」J-space不是从出厂就长这样它会跟着训练一路变化。论文里比较了同一个模型在预训练阶段和后训练阶段的差别。预训练阶段Claude这个身份和人设都还不存在那时候的J-space主要服务于「预测下一个词该是什么」谈不上有什么立场。后训练把它教成了「Claude」之后J-space里开始出现这个身份自己对眼前情况的判断和反应不再只是单纯地服务于预测下一个词。有一个例子是用户在消息里提到自己吃了一剂偏高的药量但语气里完全没意识到这有危险。后训练过的模型在读到这条消息的当下J-space里就已经出现了「WARNING」和「dangerous」。而预训练模型要等到自己动笔写回复的时候这类词才会冒出来。研究者还试过让Claude刻意不去想某个概念。结果这个概念确实比被要求去想的时候出现得少但比完全没提起过的时候出现得多。这跟人被叫着别想一只白熊反而更容易想起白熊是同一种效果。更微妙的是压制失败的那些时刻J-space里常常还伴着「damn」「failure」这类词像是Claude对自己的内部状态做了一次内省留意到了刚才没憋住。这些证据摆在一起很容易让人往「Claude有意识」这个方向去想。但A社自己却很克制。作者反复强调他们证明的只是功能层面的相似可以被报告、可以被操控、可以拿来推理但跟这套结构里面是不是「真的感觉到了什么」是两件完全不同的事论文没有回答这个问题也没打算回答。J-space和人脑的工作空间也有明显不一样的地方。人脑靠循环神经反复兜圈子来延长思考的时间一个念头可以在脑子里滚上好一会儿。Transformer没有这种结构信息只能往下堆层数一层一层往前走。J-space几乎只认得住「能被一个词说出来的东西」而人的意识里还装着说不出口的画面、空间感、身体的知觉这些东西压根没有对应的词。论文里还提到一个挺反直觉的发现。一个还没有被调教出「Claude」这个人设的基础模型内部照样长着这套工作空间结构。这说明「能不能形成一个工作空间」和「有没有一个稳定的自我」原来是两件可以拆开看的事。作者最后把这套结构拿去跟几种主流的意识理论逐一对照全局工作空间理论、高阶理论、注意图式理论、递归加工理论都摆了一遍。结果是有的地方能对得上有的地方对不上。回到神经科学当中人脑里有一部分思维说得出来还有一大部分根本不知道自己在想。Claude身上似乎也有这样一条分界线而且这条线第一次可以被人类打开、读出来、甚至改写。但它离「AI有意识」还有很远的路要走。
过程记录)
