Claude大脑里有J空间,AI产品设计逻辑要重写

24小时AI快讯12小时前发布 changgong
260 00

每日AI新闻

想读懂Anthropic今天凌晨发的这篇论文,可以先想一个问题:当你问Claude”蜘蛛有几条腿”的时候,它脑子里到底”想”了什么?答案是8条。但关键不在这里。

一、Claude大脑里多了一块”意识空间”

2026年7月7日凌晨,Anthropic扔了一篇论文出来。内容很炸,他们发现Claude内部存在一个类似人类”意识可及活动”的思维空间,叫J空间(Jacobian Space)。

这不是比喻,是真的。他们用自研的J透镜工具,能直接读取Claude”正在想什么”,甚至能手动修改Claude的思考内容,让模型输出从”足球”变成”橄榄球”。

更震撼的是,谷歌DeepMind可解释性团队负责人Neel Nanda看完论文后在Qwen模型上独立复现了全部结论,公开表示”这是一篇极具价值的论文”。

对AI产品经理来说,这条消息的深意远比”Anthropic又发论文了”要大得多。它可能重塑我们理解大模型行为的方式,进而改变产品设计的底层逻辑。

二、J空间到底在做什么

先搞明白J空间是什么。

当Claude回答”那种会织网的动物有多少条腿”时,最终输出只有”8″。但研究人员用J透镜读取Claude内部时发现,Claude在输出”8″之前,脑子里已经浮现了”蜘蛛”的概念,尽管它没说出来。

这就是J空间的作用:承载模型”正在思考但尚未输出”的所有中间信息。它不是模型自己写的草稿,而是在神经网络内部静默运行的激活模式,无需生成任何文字就能让模型对某个概念展开推演。

J空间有几个关键特性:

第一,读得懂也能改。模型能从J空间读取信息并用它指导输出,研究人员也能手动修改J空间的内容来改变模型行为。

第二,多步骤推理的底座。没有J空间,Claude仍能正常聊天、回答常识问题,但一旦涉及多步骤推理,能力几乎归零。总结文章的能力甚至不如参数更小的模型。

第三,资源效率极高。J空间一次只能存储几十个概念,占用的计算资源不到模型总资源的1/10,但却支撑了几乎所有高阶认知任务。

第四,在训练中自然涌现。这不是工程师代码里写死的功能,而是在预训练阶段就自然形成,在微调阶段才成型出”自我视角”的。

三、读懂J空间,产品设计逻辑要变了

这个发现对产品设计有几层直接意义。

第一层:Prompt设计终于有理论基础了。

做过AI产品的人都知道,有时同一个Prompt反复调就是得不到理想结果,换一种问法立刻变好。以前我们只能归因于”玄学”。现在有了J空间理论,原因很可能是你的Prompt没有被模型”读进”J空间,只在非J空间的底层区域被处理了。

这意味着有效的Prompt应该设计成能触发模型的内部推演机制,而不仅仅是格式正确。具体来说,给模型创造需要”默默推理”的空间,不强制要求立即输出,而是引导模型在内部完成概念激活后再输出,可能是提升质量的系统方法。

第二层:模型能力边界更清晰了。

J空间占资源不到1/10,却负责高阶认知。这意味着模型的能力分布是极端不平衡的。大部分算力在执行”基础操作”(输出文本、语法规范、常识检索),真正体现智能的那一小部分反而在J空间中高效运行。

产品架构设计时,可以把”模型将在哪个认知层次工作”作为一个明确的设计参数。简单的信息提取任务可能根本不需要激活J空间,而需要创意思考、多步推理的任务则应该给模型更多的”内部推演时间”。

第三层:阿利格门有了新路径。

传统对齐方法(RLHF、指令微调)都是通过调整输出分布间接影响模型行为。但J空间的发现提供了一种直接修改模型”思维内容”的可能性。你可以检查模型在生成某个回答之前,是否真的在J空间里走了你期望的推理路径,而不是绕开推理直接给出”正确但理由错误”的回答。

这对安全敏感的AI产品(金融、医疗、法律)尤其重要。未来可能不再只是看输出结果来评估模型行为,而是看推理过程的合规性

第四层:微调策略的再思考。

论文证实J空间会在微调阶段形成”自我视角”。这意味着微调不仅仅是让模型学会新知识,更深层的影响是在塑造模型的”思考方式”。基于这一认知,微调数据的设计或许应该从”教答案”转向”教思维路径”,引导模型在J空间中建立正确的推演模式,比让它记住正确答案更重要。

四、产品经理该立即做什么

这篇论文发布后,短期内不会有立竿见影的产品级工具。但有几个判断可以开始做。

关注J透镜的开源生态。Anthropic已经发布了核心代码,Nature杂志级别的工具正在走向社区。一旦J透镜变成可用的工程工具,它可能成为评估模型行为的标准手段,就像今天我们都用benchmark来评模型一样。

重新审视Prompt设计方法论。如果你还在用”指令+格式+示例”的三段式Prompt模板,可以开始探索给模型预留”内部思考空间”的设计模式。不要只要求模型给出最终答案,而是设计需要模型在内部进行概念激活和推演的提问方式。

关注反事实反思训练。Anthropic提出了一种全新技术,通过改变模型被要求复盘思考时的表述,就能改变模型后续的推理模式。这意味着模型的思考方式是可以训练的,而不只是输出风格可以训练。如果你管理的产品涉及复杂的用户交互(客服、教育、咨询),这可能是未来几年最重要的技术方向之一。

最后,用论文中的一句话收尾:J空间的研究无法告诉我们Claude是否有意识,但可以让我们知道Claude”心里在想什么”。这句话的信息量,可能比整篇论文都大。

© 版权声明

相关文章

暂无笔记

您必须登录才能记录笔记!
立即登录
none
暂无笔记...