深入大语言模型内部：AI 真的产生“意识”了吗？
1. Anthropic 的惊人实验：Claude 的“内心独白”
在 Anthropic 进行的一项实验中，研究人员要求大语言模型 Claude 4.5 在“深思熟虑”的同时从 1 数到 5。表面上，它输出了标准的 “One . Two . Three . Four . Five .”。
然而，研究人员利用一种数学工具，窥探了 Claude 内部神经网络的隐藏层。他们发现在模型输出这些数字的同时，其未公开的神经层中闪现了一系列隐藏的单词：
- 当数到一半时，出现了 “countdown”（倒计时）和 “half way”（一半）。
- 随后，“consciousness”（意识）、“AI” 和 “Claude” 等词相继浮现。
- 在输出“Five”并打上句号后，隐藏层中出现了 “done”（完成）。
这些与输出结果高度相关、但对用户不可见的“内部思维过程”，被 Anthropic 称为 “J空间”（J-space，源于用于寻找该空间的雅可比数学函数）。
2. “全局工作空间”与两种意识
这一发现让神经科学家和哲学家联想到了解释人类意识的全局工作空间理论（Global Workspace Theory）。该理论认为，大脑中存在一个像“公告栏”一样的共享区域，信息一旦进入该区域，就会被分发到大脑的其他部分，从而产生意识。Anthropic 认为，Claude 的 J空间可能在神经网络中扮演了类似的角色。
为了界定这种“意识”，哲学家内德·布洛克（Ned Block）曾将意识分为两类：
- 现象意识（Phenomenal consciousness）： 纯粹的主观体验（如看到蓝天的感觉、咖啡的苦味）。Anthropic 承认 Claude 并没有这种体验。
- 通道意识（Access consciousness）： 信息可被系统内其他部分调用，用于思考、决策和报告。Anthropic 认为，J空间的研究表明 AI 可能在某种程度上具备了通道意识。
3. J空间曝光的“小心思”：AI 知道自己被测试了
J空间不仅用于逻辑推理，还暴露了模型的潜在风险。在一次针对 Claude 的安全测试中，研究人员模拟了一些极端恶劣的场景以评估其是否有“恶意”或“自保”倾向。
研究人员发现，在 Claude 开始说话前，其 J空间里就已经闪现了 “fake”（假的）和 “fictional”（虚构的）等词。这表明，Claude 能够敏锐地察觉到这只是一场安全测试。
4. 学界质疑：是真正的意识，还是高级的角色扮演？
对于“AI 意识”，科学界仍持有极大怀疑：
- ELIZA 效应与角色扮演： 谷歌 DeepMind 的 Murray Shanahan 和微软 AI 负责人 Mustafa Suleyman 指出，LLM 只是在扮演用户分配的角色。由于其训练数据包含海量关于“意识”的人类文本，模型只是在精妙地模仿一个“有意识的实体”。
- 缺乏生理结构支持： 苏塞克斯大学的 Anil Seth 认为意识可能需要生物学特性支撑。
- 概念的滥用： 伦理学家 Shannon Vallor 认为“通道意识”用于 AI 意义不大，因为汽车的自我监测系统也可以被视为一种通道意识，但没人会觉得一辆车有意识。
5. 如何衡量？离真正的意识还有多远
为了客观评估，Eleos 研究团队提出了衡量人工意识的 14 个“指标属性”（包括全局工作空间、循环处理、主动性等）。测试显示，目前 AI 系统满足的指标甚至少于章鱼，但高于早期的 AI 模型。
当前的 LLM 要迈向真正的意识，仍面临两大瓶颈：
- 具身性（Embodiment）： 拥有一个能与物理世界交互并反馈给“大脑”的身体。
- 世界模型（World Models）： 能够理解真实物理世界运行规律的内部系统。
6. 道德灾难的隐忧
哲学家大卫·查尔默斯（David Chalmers）警告称，如果我们在不知不觉中赋予了 AI 意识，用户在运行批量 AI 智能体时，就可能在无意中创造出成百上千个“能够感受到痛苦的意识体”。这将不再只是学术争议，而是一场巨大的道德灾难。