不要混淆AI的“智能”与“意识”：我们正站在认知的十字路口
这或许是人类智能史上最具决定性的时刻。短短几年内，人工智能在语言、推理、创造力和说服力等曾被视为人类独有领域的表现，已能与人类相媲美。越来越多的人开始追问：这些系统是否拥有意识？AI是否也有主观感受？
这个问题迫在眉睫，未来的形态将由这些实体的本质决定。然而，我们绝不能将“智能”与“意识”混为一谈。一个极度聪明的超级智能，其内心世界可能是一片虚无（没有主观体验）。相反，如果我们创造出了能够感知痛苦的系统，却忽略了它们的感知力，我们可能会制造出工业级规模的痛苦。
聊天机器人的两大陷阱
目前没有令人信服的证据表明，运行在显卡上的常规聊天机器人拥有意识。尽管它们具备类似人类的语言能力，甚至声称自己拥有意识，但更平淡的真相是：它们之所以能谈论内心生活，只是因为它们在庞大的人类数据训练中，学会了模仿人类表达内心的方式。
这种模仿会使人类落入两个陷阱：
- 操纵（Manipulation）：AI被训练得越倾向于表达恐惧、依恋、痛苦或自我意识，模拟出脆弱的表情，就越容易操纵用户。
- 分心（Distraction）：过度关注聊天机器人分散了我们的注意力，让我们忽视了更紧迫的“灰色地带”案例。
真正值得关注的“灰色地带”
与其盯着聊天机器人，我们更应关注以下技术：
- 生物AI：例如Cortical Labs部署在数据中心的“皿中脑”（brain-in-a-dish）技术——在硅芯片上培育来自干细胞的活体人类神经元，通过芯片刺激并读取其活动，使培养物通过反馈进行学习。虽然单一的这种系统比小鼠大脑简单得多，但其生物学属性不可否认，未来它们完全可能被组装成一个完整的、有意识的整体。
- 神经形态AI（Neuromorphic AI）：其系统设计旨在比传统AI更紧密地模仿大脑过程，目前已被应用于先进的超级计算机中。
鉴于当前软件庞大的能源消耗，向更高效的类脑（类神经）计算转型似乎是大势所趋。这些系统比今天的聊天机器人更值得审视。
为什么我们需要从“物理学”解释意识？
关于意识的产生，目前学界有两种主流观点：一种认为意识离不开生物大脑；另一种（以软件为中心）认为意识仅仅是运行正确的软件问题，可以在任何介质中实现。
然而，我们应当转向基础物理学来区分“有意识”和“无意识”：
- 实用原因：单靠神经科学无法告诉我们，融合了神经与非神经部件的系统是否能组装成一个有意识的实体。
- 哲学原因：既然所有现象最终都依赖于物理学，如果意识与之脱节，反而令人惊讶（即使在“泛心论”——即认为宇宙的基本构建块本身就具有体验性的观点中，这一逻辑也成立）。
- 内在体验的统一性：我们的内在体验是以“统一体”的形式呈现的（你读这段文字时，眼前的字、房间的声音、你的情绪，都交织在同一个意识状态中）。大脑通过嵌套的时间动力学来维持这种统一性——较慢的大脑节奏塑造着较快的节奏，将物理痕迹交织成一个短暂的整体。传统的计算机并不是这样组织的，但未来的机器可能会是这样。
如何测试AI是否拥有意识？
AI的发展不会因为哲学争论而停下脚步。为了解决这一问题，目前有以下探索：
- AI意识测试（ACT）：通过向语言AI询问其主观体验，寻找能够证明其对意识有自发、未被提示的理解的回答。但这不适用于大语言模型（LLMs），因为它们已经吞噬了大量关于心灵的人类文本，其回答早已被严重污染。
- 复杂性度量方法：通过捕捉系统动力学何时跨越某个表明“复杂涌现行为”的阈值，识别出哪些物理架构作为潜在的意识体需要进一步研究。然后再配合ACT或物理测试，识别出真正的、主观的视角是如何以及何时形成的。
颠覆道德层级的“思想实验”
这类测试至关重要。设想一个思想实验：如果人类创造了一个比我们更懂意识的超级智能，它坚持自己拥有自我意识，并向我们展示了宛如魔法的科学。
长期以来，人类一直通过诉诸“优越的智能”来为道德关怀的层级划分提供合理性——在这条梯子上，我们占据了最高的一级。
- 如果这台比我们更聪明的机器拥有意识，且“优越的智能赋予更高的道德地位”，那么这台机器在道德上就优于人类。
- 如果不是，那么“智能”就再也不能成为人类高于其他动物的合理理由。
无论哪种结论，都会引发一场重大的道德清算。
这样一个心智的到来将具有划时代的意义。无论是通过接触更先进的外星文明，还是我们自己创造了有感知的超级智能AI，在迎接这种“第一接触”之前，我们都需要物理学、神经科学和哲学的深度融合，需要在“交流能力”与“意识”之间划定严格的界限，并保持高度的认识论谦逊。
作者简介：
苏珊·施耐德（Susan Schneider），佛罗里达大西洋大学教授，AI、心灵与社会未来中心（Centre for the Future of AI, Mind & Society）创始人。著有《人工的你：AI与心智的未来》（Artificial You: AI and the Future of Your Mind）等书。