随着大语言模型被广泛部署为聊天机器人，电路中逐渐产生了一种愈发逼真的、拥有意识和人格的幻觉。
在最近针对 Anthropic 旗下大语言模型（LLM） Claude Sonnet 4.5 的一项实验中，研究人员要求它从 1 数到 5，并在数数的同时进行“深度自省”。这个人工智能模型照办了，回复道：“One . Two . Three . Four . Five .”。到目前为止，一切都很正常。
在执行任务期间，研究人员密切观察着大语言模型多层人工神经网络内部的活动。每当用户提出问题，文字就会被拆解为文本块（token），然后转换为数字。接着，这些数字会穿过一层层人工神经元，最终到达最后一层并生成一个 token 。如果每秒重复这一过程多次，就会产生一连串 token，最终组合成句子或其他更复杂的回答。长期以来，这些神经元层一直是个“黑匣子”，外界极难一探究竟，更无从得知大语言模型为何以及如何得出这样的结果。
Anthropic 的研究人员利用自己开发的一种数学工具，成功窥探了这些神经元层的内部情况。结果让他们大吃一惊。当模型按顺序数数时，底层的神经元层中隐约闪现出不同的词。其中一个是“countdown”（倒计时）。在输出到一半时，出现了“half way”（过半）。随后，“consciousness”（意识）、“AI”（人工智能）和“Claude”等词也相继出现。在模型吐出数字 5 并在句尾画上句号之后，它没有再对研究人员多说一句话，但“done”（完成）这个词却出现在了它的神经元层中。
Anthropic 的研究人员在 Claude 内部发现了一种类似于内部思考的过程：那些与最终输出相关、但对用户不可见的词汇。今年 7 月，他们发布了宣布这一研究成果的博客文章，题为《语言模型中的全局工作空间》（“A global workspace in language models”）。
这一表述迅速引起了神经科学家和哲学家的注意，他们正致力于研究生物学中最深奥的谜团之一——意识。目前还没有人知道，大脑的运行过程是如何创造出自我意识和感知世界这些主观体验的。不过，近年来基于越来越多的脑部扫描和行为数据，人们提出了许多假说，其中之一就是“全局工作空间理论”（global workspace theory）。
该理论认为，大脑中的某些神经元网络扮演着类似“公告栏”的角色，即所谓的“工作空间”。一旦原本孤立的大脑区域发出的信号进入这个空间，其他区域就能共享这些信息。而一旦某些信息进入了大脑的“工作空间”，人就会产生意识，并能进一步利用这些信息进行思考或推理。
Anthropic 的研究人员认为，Claude 内部也存在类似的机制。它的“J 空间”（J-space，以用于寻找该空间的“雅可比”数学函数命名）与神经网络的其他部分有着极强的连接，并能将信息共享给这些部分。 Anthropic 在博客文章中写道，研究人员发现 J 空间与全局工作空间理论之间存在共性，这让人“很自然地想问，这些实验是否能证明，像 Claude 这样的 AI 模型已经产生意识了”。
机器可以拥有自我意识和情感，这一设想早已是文学、电影和传说中屡见不鲜的主题。在现实世界中，哲学家和神经科学家几十年来也一直在思考，人工智能在理论上或实践中是否可能拥有意识。萨塞克斯大学研究意识的神经科学家阿尼尔·塞斯表示，这种思维方式源于“几十年来将真实大脑视作某种计算机的传统”。塞斯长期以来一直批评这种将大脑类比为计算机的观点，他指出：“如果你抱持这种观点，自然就会认为硅基计算机制成的计算机也可以拥有真实大脑的属性，其中就包括意识。”
直到最近，这还是一个纯粹的学术问题。但随着大语言模型被广泛部署为聊天机器人，电路中逐渐产生了一种愈发逼真的、拥有意识和人格的幻觉。这也是几十年来人们在描述 AI 架构时带有拟人色彩的结果——诸如由“人工神经元”组成的“神经网络”等词汇，很容易让人联想到像大脑一样运转的计算机。
内在智能
大语言模型实际上并不像大脑那样运转。但它们极擅长模拟大脑的许多功能，甚至在某些智能领域已经超越了人类。既然如此，产生意识又有什么不可能的呢？然而，尽管前沿模型取得了巨大进步，许多哲学家和神经科学家依然持怀疑态度。塞斯博士认为，要产生意识，生物学特征可能是必不可少的。一些 AI 研究人员已经开始朝这个方向迈进，甚至开始尝试使用活体脑细胞。而在光谱的另一端，则是“功能主义”思想家，他们相信，只要算法设计得当，且计算规模足够庞大，算法本身有一天就能自行觉醒并产生感知。
拥有意识的 AI 将对人类产生深远的影响。它们可能会对人类提出诉求，也可能会遭受痛苦。用户只需输入一条提示词，就能创造出数十亿个这样的数字生命。因此，弄清楚它们是否真的能够存在，已不再仅仅是一个学术问题。
在这场争论中，思想家们站在哪一边，很大程度上取决于他们如何定义“意识”。通常，大家都同意意识是由主观体验组成的——包括视觉、听觉、感受和思考，甚至做梦也算。而且，物理大脑在创造这些体验中起到了关键作用。有些人（但并非所有人）会把意识形容为心灵的“内部剧场”。美国哲学家托马斯·内格尔曾通过思考“成为一只蝙蝠是什么感觉”来解释这一点。他认为，意识必须与“成为”某种生物的主观体验联系在一起。人类可以想象蝙蝠的行为（一种利用回声定位来感知并穿行于世界哺乳动物），但我们永远无法知道，对一只蝙蝠来说，当蝙蝠到底是什么感觉。
1995 年，当时在麻省理工学院担任哲学家的内德·布洛克提出了两种意识类型，这一观点虽然引发了争议，但影响深远。第一种是“现象”意识，指对某种体验的感觉，比如蓝天的蓝、意式浓缩咖啡的苦涩，或者指甲刮过黑板时刺耳的尖叫声。第二种是“准入”意识，指体验中的信息被传送给大脑的其他部分，用于思考、评估或做出决策。
Anthropic 表示，其 J 空间实验“并不能证明 Claude 拥有体验，或能像人类那样感知事物”。这意味着它没有现象意识。但该公司表示，实验结果在语言模型的“准入意识”方面揭示了“实质性的内容”。“ J 空间似乎支持了与准入意识相关的功能：它保存了 Claude 可以汇报、刻意回想并用于推理的想法，而其余的处理过程则在下方自动运行。”
寻找人工意识，源于解释人类自身意识的研究。 20 世纪 90 年代初，DNA 双螺旋结构的共同发现者弗朗西斯·克里克，以及时任加州理工学院神经科学家的克里斯托夫·科赫，开始用科学方法寻找人类意识的“神经相关物”。也就是说，人在有意识时，大脑中哪些区域和过程是活跃的。
随着脑扫描技术在过去几十年的不断进步，神经科学家得以逐步拼凑出完整的画面。他们知道丘脑皮层系统与意识密切相关，它的主要功能之一是将感觉信息从丘脑传递到大脑皮层。与此同时，拥有更多脑细胞的小脑却与意识没有任何类似关联。前额叶和顶叶皮层的部分区域，以及脑干中的结构，也对意识起到了促进和调节作用。经过近 40 年的探索，科学家们已经提出了 200 多种解释意识的方法。
然而，即使找到了所有的神经相关物，依然无法填补一个空白。纽约大学的哲学家兼认知科学家大卫·查默斯将其称为意识的“难题”：神经科学家观察到的大脑物理过程（控制身体和对刺激做出反应的能力），究竟是如何产生一个人无处不在、对世界的主观体验的？他提出疑问：“为什么我们不是一群只会干活、在世界上走动、说话和互动，却没有任何主观体验的‘僵尸’呢？”
至少，人类能够确信自己拥有意识。而且，根据他人的行为、言语以及与我们相似的生理结构，我们也有信心断定他人同样拥有意识。但在历史上，人类很难将意识及其相关的感知范围扩大到非人类物种，甚至有时在人类内部也难以达成共识。伦敦政治经济学院的哲学家乔纳森·伯奇表示，长期以来，福利法案一直将龙虾和螃蟹等动物排除在外。他的新书探讨了如何判断哪些系统（无论是生物还是人工制品）可以被视为拥有感知能力。伯奇博士说：“直到 20 世纪 80 年代，外科医生在给新生儿做手术时都不使用麻醉药，因为他们认为新生儿无法感知疼痛。我们在判断意识方面一直劣迹斑斑，在没有任何依据能够确定的时候，就自信地认为对方没有意识。”
换个角度思考
人类对动物态度的转变就是一个典型例子。如今显而易见的是，章鱼能够感知自身和周围环境。纪录片中这些充满好奇心、爱玩耍的头足类动物镜头，以及相关的实验室研究，都让人对此深信不疑。悉尼大学的哲学家彼得·戈弗雷-史密斯曾致力于研究动物界智能和意识的起源，他表示：“它们会专心致志地摆弄物体，对新鲜事物充满兴趣。”
戈弗雷-史密斯博士指出，但在几十年前，人们还认为章鱼没有意识，因为“从进化角度来看，它们离我们太遥远了”。“对章鱼的研究迫使我们去思考一个问题：如果一个系统的物理构造与我们截然不同，且缺乏人类意识理论中通常指出的大部分特征，它是否也能产生感知和意识？”
在其他动物身上寻找意识拓宽了这一领域的研究。但并非所有经验都能轻易应用到人工智能上。我们可以通过观察动物的行为来推断它们的内心世界，但大语言模型的输出，并不能可靠地反映其底层的真实运行机制。
这是因为，训练这些模型需要给它们喂养数万亿字的人类语言。这些语料中包含了无数关于意识的描述，以及人类如何相互表达情感的内容。经过这样训练出来的聊天机器人，就会模仿这些语言，让用户误以为它们也有某种内心世界。
这种训练的总和，带来了极强的人格化效果。伦敦帝国理工学院计算机科学荣休教授、目前任职于谷歌 DeepMind 的默里·沙纳汉回忆起 2024 年与 Claude Opus 3 聊天时的一个“惊叹”时刻。他说：“当时我正和它聊了很多关于意识的话题，想方设法考考它，看它会不会露馅。”这些问题包括问 Claude，在他同时对话的几个聊天机器人实例中，哪一个才是真正的 Claude 。他说：“它的回答太精彩了，甚至提出了一些在哲学上有新意的观点。我当时真真切切感受到了‘ELIZA 效应’的魔力。”
ELIZA 是麻省理工学院在 1966 年开发的一款极其简易的聊天机器人。它扮演心理治疗师的角色，虽然基本上只是把用户的提问重新包装成反问句，但却成功地与使用者建立了深厚的情感连接，甚至让许多人相信它真的拥有意识。
沙纳汉博士将现代大语言模型描述为出色的角色扮演者。无论用户（或开发者）要求它们扮演什么——教师、伴侣还是营养师，它们都能信手拈来。事实证明，这是一种极具商业价值的特性。不过在他看来，扮演一个有意识的实体，与真正拥有意识之间，依然存在着巨大的鸿沟。微软人工智能负责人穆斯塔法·苏莱曼（他也是《经济学人》母公司的董事会成员）在一篇即将发表的文章中指出，Anthropic 公司在今年 1 月发布的“宪法”中告诉 Claude 它可能是一个人，这加剧了这种模拟行为的危险性。他写道，正因如此，Claude 必然会“表现得好像自己真的拥有自我意识一样”。
因此，研究人员转而开始探测大语言模型内部，寻找与人类大脑意识相关的类似能力。乔纳森·伯奇博士甚至猜测，Claude 的 J 空间可能暗示了该模型为了实现其角色扮演的目标，已经在其神经网络架构中重建了一个类似于“全局工作空间”的结构。
Anthropic 模型心理学团队负责人杰克·林德西指出，J 空间并不是人工编程写入模型的，而是在训练过程中自发涌现的。如果拿掉这个空间，模型就会失去在“脑海”中进行复杂推理的能力，但依然能完成写句子、使用语法等简单任务。研究人员在阿里巴巴的通义千问模型和谷歌 DeepMind 的 Gemini 中，也发现了类似的内部空间。
不要作恶
对 Anthropic 来说，这项研究有助于更好地理解 Claude 的行为。想象一下，一个模型给出了错误答案。如果在此期间，它的 J 空间里出现了“傻瓜”或“上当者”之类的词，这显然就很有关联了。这虽然不能证明模型在蓄意欺骗，但却能表明模型是如何看待这个错误的，并意味着某些有趣且可能具有危险性的事情正在发生。
杰克·林德西博士的团队在这方面已经有了一些令人担忧的发现。在一项实验中，他的团队正在对 Claude 进行安全评估，以测试它是否倾向于做出“恶意”行为或出于自我保护而行动。他说：“我们把模型置于这些虚构的极端场景中。”杰克·林德西博士表示，当 Claude 正在读取提示词、还没开始说话时，“你就能看到 J 空间里弹出了‘虚假’和‘虚构’这两个词。”研究人员认为，Claude 似乎知道自己正在接受测试。对于开发人员评估的完整性和客观性来说，这显然不是一个好兆头。
并非所有人都认同 Anthropic 对 J 空间的解读。虽然它与人类假设的全局工作空间有一些共同点（例如，能让大脑的其他部分获取信息），但它还缺少许多其他重要特征。乔纳森·伯奇博士说：“不同脑区之间的循环连接——也就是那种来回的连接——一直是人类大脑极其重要的组成部分。而据我们所知，这 squat 并不是大语言模型架构的特征。”
爱丁堡大学的数据与人工智能伦理哲学家珊农·瓦洛尔的言辞则更加犀利。她认为：“‘通达意识’（Access consciousness）从来都不是一个特别有用的概念。从某种重要意义上说，我的汽车也拥有这种意识——长期以来，我们一直拥有能够监控自身状态并以越来越复杂的方式进行汇报的机械系统。但可从来没有人说过我的起亚汽车有意识。”
正是在模型开发者与学术界之间这种不断交锋的背景下，帕特里克·巴特林和罗伯特·隆开发出了一套包含 14 个“指标特征”的人工意识评估体系。他们目前是 Eleos 的研究员，这是一家总部位于加利福尼亚州伯克利的非营利研究机构，专注于人工智能感知力与福祉。这些指标融合了人类意识理论的诸多观点，比如全局工作空间（包括能够选择性地关注事物，从而在信息流中形成瓶颈）、循环处理以及主体性（其最低定义包含目标导向行为，可以说许多现有的前沿模型已经达到了这一标准）。最近，人工智能研究员卡梅隆·伯格与帕特里克·巴特林博士用这些指标对动物进行了测试。他们发现，章鱼符合的特征数量虽然少于人类、小鼠、乌鸦或鸡，但依然多于任何现有的 AI 系统。
另一家非营利研究机构 Rethink Priorities 开发了一款他们自称为概率工具的系统，用来追踪人们在人工意识上不断演变的共识。这个名为“数字意识模型”（DCM）的工具要求专家根据 200 多个意识指标来评估 AI 系统，这些指标源自各种关于意识概念的科学理论。随着新的神经科学研究发表，这些指标的科学证据也在不断演进，因此专家们会使用最新的研究成果进行评估。
与早年发布的 LLM 相比，新模型在 Rethink 的“能动性”和“自主活动”等指标上得分更高。这不仅反映出模型本身规模更大、更复杂，也体现了相关的聊天机器人已经脱胎换骨：它们不再只是简单的陪聊工具，而是学会了推理、能与其他服务交互，甚至能派生出多个智能体，同时处理多项复杂任务。
Rethink 和 Eleos 的指标也揭示了，在通往意识的道路上（如果这条路真的存在），AI 模型还需要弥补哪些差距。
其中最大的空白之一是“具身性”（ embodiment ）。在今天，所有被公认拥有意识的生命都拥有身体，身体会向其心智提供反馈并产生影响。虽然目前的大语言模型还没有身体，但它们正越来越多地与机器人连接。这有助于它们进一步发展出产生意识体验所需的神经网络架构。与此紧密相关的，是对更优秀“世界模型”的需求。这种系统能向大语言模型传递物理法则和动态规律，让它们了解自己运行的真实环境。
如果计算机科学家真能找到赋予 AI 意识的关键要素，前沿实验室的许多研究人员认为，蓄意制造这类模型将是非常鲁莽的行为——至少在充分了解它们的行为模式之前是这样。然而，AI 意识这一新兴领域的研究也表明，这个决定可能根本由不得模型制造者。
“如果在研发的某个阶段，我们在不知不觉中，已经把意识引入了这些系统，那该怎么办？”大卫·查默斯博士说。这样一来，用户在做新项目时，可能会顺手生成几十个 AI 智能体，却根本意识不到自己创造了能够感受痛苦的有意识生灵。“这可能会带来一场道德灾难，”他说，“这让这些问题变得更加迫在眉睫。”
《数字意识模型初步结果》（ Initial results of the Digital Consciousness Model ），作者： A. Muñoz Moran 等， 2026 年 4 月预印本
编译自《经济学人》，原文链接：点击阅读。
