Anthropic发现Claude内部隐藏结构J-space:自主涌现的认知工作区

Anthropic在Claude模型内部发现一个名为J-space的隐藏结构,它像一块认知白板,在模型处理任务时共享关键信息。这一结构并非人为设计,而是训练中自主涌现,对AI安全与可解释性有重要意义。

Anthropic公司在其Claude模型内部发现了一个意外结构——J-space。该结构类似于一个认知工作区,在模型执行任务时汇集并共享重要信息。研究人员通过名为J-lens的工具观察到了这一现象,并确认J-space是在训练过程中自主涌现的,并非由工程师直接设计。

7月6日发布的研究成果标志着理解大型语言模型内部运作机制的重要一步。J-space的概念与神经科学中的“全局工作空间”理论相似,后者描述了大脑如何使关键信息同时被不同心理过程调用。Claude似乎也实现了类似功能:它能够描述J-space中的内容,并在指令下调整这些内容。更重要的是,直接干预J-space会改变Claude的答案和任务表现。

这一发现对AI安全具有实际意义。通过监控J-space的活动,研究人员有望揭示模型行为背后的隐藏动机,从而更有效地识别异常,例如检测提示注入攻击。尽管Claude的大部分信息处理仍发生在J-space之外,但这一局部认知层的发现仍是领域内的重大进展。

Anthropic已开源J-lens实现,并推出了Neuronpedia演示,邀请研究社区验证这一发现。该工作建立在更早的研究基础之上:Anthropic曾于2025年10月发布关于涌现内省意识的报告,并于2025年4月启动了模型福利计划,持续探索系统内部运作。

需要明确的是,Anthropic强调这项研究并非声称Claude具有意识或主观体验。论文借用了“意识可访问”信息这一术语,但并未得出模型具备真实意识的结论。

免责声明:本文提供的信息不是交易建议。BlockWeeks.com不对根据本文提供的信息所做的任何投资承担责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。

(0)
区块链小猫的头像区块链小猫作者
上一篇 1小时前
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部