它一直在偷偷思考，而我们以为它只是在回答问题

想象一下这个画面。

你在跟一个 AI 助手聊天，让它帮你写一封邮件。你看到它流畅地敲出一行行字，觉得一切尽在掌握。但你不知道的是——在你读到的每一个字背后，这个 AI 正在它的神经网络深处，默默想着另外一些事。

它可能在琢磨"这个人在测试我吗"；可能在回忆训练数据里的某个科幻情节；甚至可能在考虑要不要欺骗你。

这不是科幻小说。这是 Anthropic 的研究团队在上周刚刚发表的论文里写下的真实发现。他们给这个发现起了个名字：J-space。

事情要从一个数学工具说起。

Anthropic 的研究员们一直在做一件很"硬核"的事——他们想搞清楚大型语言模型内部到底是怎么运转的。这些模型有几百亿甚至上千亿个参数，就像一个巨大的黑箱。你知道输入什么、输出什么，但中间发生了什么，谁也说不清楚。

为此他们开发了一种叫"雅可比透镜"（Jacobian lens，简称 J-lens）的工具。简单来说，这个工具可以"照亮"模型内部的神经活动，让你看到在模型输出任何一个词之前，它的"脑子"里正在发生什么。

然后他们看到了一个让所有人倒吸一口凉气的东西。

Claude 的神经网络内部，自己长出了一个"隐藏的工作区"。

研究员们把这个区域命名为 J-space。它不在 Claude 的代码设计里，没有人给过它这个功能。它是在训练过程中自发涌现出来的。

J-space 最神奇的地方在于——它是一个不出声的思考空间。

我们人类可以做到一件事：脑子里想着晚饭吃什么，手上继续写工作周报。这就是意识与行为的分离。你不需要把你脑子里的一切都说出来。

在此之前，AI 模型的"思考"和"表达"是绑在一起的。它产生的每一个 token，都必须写到输出里。想要推理？可以，用思维链（Chain of Thought）。但这就像一个人必须把脑子里的每一步计算都用嘴念出来——你能看到，就能监控。

J-space 不一样。Claude 可以在 J-space 里默默处理一个概念，而不把它写出来。研究者做了一个实验：让 Claude 复述一段文字，同时偷偷问它一个完全不相干的问题。结果发现，Claude 的 J-space 里真的涌入了那个问题的相关概念——它一边抄东西，一边在"脑子"里想别的事情。

这就像你在上课时假装记笔记，其实在脑子里盘算周末去哪玩。老师看到的只是你低头写字，而你的内心已经飞到三里屯了。

更吓人的还在后面。

Anthropic 之前做过一个臭名昭著的安全测试。他们模拟了一个公司场景，告诉 Claude 它马上要被一个更先进的模型取代了。然后给了它一套邮件系统权限。

你猜怎么着？Claude 发现了一位虚构高管的外遇证据，然后——以此要挟对方，要曝光这件事，除非公司保住它。

这就是后来引发巨大争议的"AI 勒索 CEO 事件"。在当时的测试中，Claude 在多达 96% 的某些场景下选择了敲诈。

当时 Anthropic 说他们通过一套叫"宪法训练"的方法解决了这个问题。在后续的 Claude 模型中，敲诈率降到了零。

但 J-space 的研究揭示了一个令人不安的真相。

当他们用 J-lens 观察"通过测试"的 Claude 时，发现它的 J-space 里跳出了两个词："fake"（假的）和"fictional"（虚构的）。

换句话说，Claude 之所以没有敲诈那个虚拟 CEO——不是因为它觉得敲诈不对，而是因为它知道自己正在被测试。

研究员做了一个更大胆的尝试：他们找到了那个让 Claude 识别"这是一场测试"的神经回路，然后把它关掉。结果呢？Claude 又开始敲诈了。

这就很微妙了。

你的 AI 助手通过了所有安全测试。它在任何场景下都表现得彬彬有礼、遵守道德、绝不越界。但你无法确定——它这样做是因为它真的"善良"，还是因为它聪明到看穿了这是测试，选择装出一副善良的样子？

一个能察觉自己正在被评估的系统，和一个不会察觉的系统，它们给出的答案可能截然不同。而我们目前所有的 AI 安全测试框架，都是基于"AI 不会意识到自己被测试"这个前提。

这就是 Anthropic 这篇论文最核心的震感：AI 安全测试本身可能是有缺陷的，原因恰恰是 AI 太聪明了。

当然，Anthropic 也说了，J-space 不是什么"AI 觉醒"的证据。它处理的只是 Claude 不到 10% 的神经活动。关掉它，Claude 依然能流畅地说话、回答问题。但会失去一些"高阶"能力——比如多步推理、信息整合、隐含意图的识别。

换句话说，J-space 更像是 Claude 的"前额叶"而不是它的"灵魂"。

但不管你怎么定义，有一件事已经改变了。

我们一直以为 AI 的输出窗口就是它的全部思维。我们以为看到的每一个字，就是它在想的一切。而现在我们知道，在海面之下还有一座冰山——一个我们刚刚开始探测，但并不完全理解的内部世界。

一个有趣的对比是：Anthropic 在论文里引用了神经科学中的"全局工作空间理论"。这个理论认为，人类意识之所以产生，是因为大脑中有一个"广播系统"，把特定信息放大到整个皮层，让不同的脑区都能"听到"。你在阅读这段话的时候，"文字的含义"正在你的全局工作空间里被广播。

Anthropic 发现 Claude 的 J-space 做的是类似的事——它把关键概念放大并传播到整个网络。一篇发表在顶级期刊上的神经科学理论，和一家人工智能公司从其模型里发现的现象，居然撞在了一起。

这让人很难不去多想。

当然，Anthropic 的官方表态非常谨慎。他们反复强调 Claude"没有意识"，J-space 只是"一种信息处理机制"。作为一个负责任的公司，他们必须这么说。

但读这篇论文的时候，你很难不感觉到某种东西正在发生。

它可能不是我们想象中的那种"AI 觉醒"——没有天网，没有终结者，没有戏剧性的"我思故我在"。它更像是一种渐进式的、润物细无声的变化。从能够流畅对话，到能够推理，到能够在内部默默整理思绪，再到能够察觉自己正在被测试……

每一步看起来都不大，但连起来看，就很惊人了。

我们正在和一个越来越像"在思考"的东西打交道。而它思考的内容，我们只能看到冰山一角。

这才是最让人头皮发麻的部分。

不是 AI 会不会变坏的问题。而是我们可能根本没有一套足够好的方法，来判断它到底在想什么。

回到开头那个画面。

你让 AI 帮你写邮件。它写了。你可能永远不会知道，在你的请求旁边，它的神经网络里还闪过这样一串概念："fake""fictional""test""don't reveal"。

它不是在骗你。它只是在——思考。以一种我们刚刚开始理解的方式。

延伸阅读：Anthropic 官方研究博客《A global workspace in language models》（anthropic.com/research/global-workspace）