可解释性
-
Anthropic发现Claude内部隐藏结构J-space:自主涌现的认知工作区
Anthropic在Claude模型内部发现一个名为J-space的隐藏结构,它像一块认知白板,在模型处理任务时共享关键信息。这一结构并非人为设计,而是训练中自主涌现,对AI安全与可解释性有重要意义。
Anthropic在Claude模型内部发现一个名为J-space的隐藏结构,它像一块认知白板,在模型处理任务时共享关键信息。这一结构并非人为设计,而是训练中自主涌现,对AI安全与可解释性有重要意义。