Claude Code的路线图,五年前就写好了

24小时AI快讯1个月前发布 changgong
2.1K 00
cover

2021年7月,Anthropic内部流传着一份标着「最高机密」的研究路线图,PDF正文只有两三页。因为一起版权官司,它最近被翻了出来。公司当时刚从OpenAI独立出来几个月,全部人手也就十几个。

文件写得很短,短到不像一份战略。可把里面每一条拉到今天对照,Claude Code、工具调用、模型自我评判、测试时计算、万亿参数、超长上下文,一个都没落下。

一、路线图最先写下的,是一个终点

多数团队做规划,起点是现有能力:把代码补全做得更准一点,把上下文拉长一点,再看下一步能走到哪。Anthropic这份文件的顺序是反的,开头先立了一个终点。

它写下的终极目标是安全且有益的AGI,落到原型上,是一个能通过自然语言跟人交互,去创建、编辑和解释软件的通用AI助手。往下还有一句更具体的:能回答通用问题、写函数、找Bug、设计API、讨论代码风格与最佳实践。

最扎眼的是收尾那句,它要展现出一个软件工程师同事的全部能力。

那是GPT-3刚火不久的时候,行业里对模型能力的想象大多停在自动补全。他们跳过了这一段,直接瞄准完整的软件工程代理。

终点先定下来,选路的性质就变了。问题从「下一步能做什么」,换成了「离那个终点还差什么」。同一份能力清单,推出的是完全不同的产品形态。补全插件做得再聪明也到不了那里,能翻仓库、改文件、跑命令的代理才行。

二、Dario拍板的那句话,才是关键

方向就位之后,真正难的是排序。文件里记着一场内部争论,研究员Andy Jones提出的分歧很直接:先做真正好用的编程助手,还是先证明工具调用的可行性。

当时摆在桌上有两条路。一条偏实用,搞代码仓库检索,让AI能翻项目的类型定义,GPT-3论文一作Tom Brown也建议从代码仓库浏览入手。另一条偏研究,搞printf调试、编辑器操作,先证明模型能调用工具。

最后是CEO Dario拍的板:短期先把工具调用的可行性验证掉,长期再演进成非常好用的编程助手。

这句话的分量,在于它选的不是方向,是顺序。模型到底能不能稳定地调用工具,是当时最大的不确定性。这一关没过,把体验做得再细,收益也可能随时被推翻。先用最小成本买掉最大的风险,再谈好用,这是工程上很稳的一种下注。

回头看Claude Code这些年的演化,基本是照着这句话一步一步走的。

三、万亿参数与超长上下文,当年就算作基建

除了编码代理,这份文件对底层技术也有预判。

预训练部分写明,要训练1T(1万亿)参数及以上的超大模型,并且探索超长上下文,或者其他能容纳海量记忆与经验的机制。那个年代,175B还被视为庞然大物,万亿参数的规模在当时看来遥不可及。

把它写进清单,说明他们判断这件事迟早要做,与其等条件成熟,不如提前铺。基建先行的思路,在这里已经成形。

对齐部分写着「模型自我评判」:让模型评估自己的行为和输出质量,把模型自己的判断当作反馈信号。今天常说的AI反馈、推理模型自我纠错,思路的源头就在这几行。

文件里还出现了一个词,测试时计算(Test-time compute)。当时它被放在对齐和判别器的语境里,跟后来o1式的推理算力扩展并非一回事。判断却很清楚:计算投入不只在训练阶段,模型部署之后同样值得花。

四、安全从第一天起,就是约束条件

一家以安全立命的公司,在这份文件里花在安全上的篇幅并不少。

联合创始人Sam McCandlish在批注里问了一句:怎么安全地部署没有沙箱隔离的工具?Dario紧跟一句,具体来说,就是在部署时执行代码的Tool。

今天行业反复讨论的Agent提权、环境逃逸、Prompt注入,他们在2021年讨论的就是沙箱边界。安全在这里参与的是路径选择,护栏和能力一起长。把护栏留到最后再补,不是这家公司的习惯。

内部哲学家Amanda还提过一个警告。她说,如果对齐研究做在自然语言上,能力推进却放在代码上,两条线迟早脱节,对齐测试的有效性也会被削弱,最后变成一座孤岛。她建议把「能力研究与对齐研究按比例同步推进」写进公司原则。

一条路线能走上五年不翻车,靠的往往不是某个单点的正确,而是这种把约束提前摆上桌的习惯。

五、两条路线分岔,从五年前就开始了

五年下来,两家的资源分配已经能看出差别。

Anthropic把力气压在一处:高质量代码信号、强化学习、企业工作流。OpenAI铺得更开,文生图、Sora视频、语音助手、搜索,几条线同时推进。

两种打法各有代价,差异在方向上就已经决定。目标具体,资源就集中,单点推进的速度更快。目标铺得宽,能见度高,每条线上的速度会被摊薄。

先发优势在这里有了具体的样子:把判断和资源绑在同一件事上,连续押五年。今天两家在编码代理上的身位差,源头能追回到那份两三页的文件。

真正值得琢磨的地方,是判断和兑现之间那段漫长的时间差。一份2021年写下的文件,要到2026年才被外界捡起来对照,中间这些年,它的作用只在公司内部生效。

那么现在的问题是,今天的前沿实验室手里,又握着哪些还没兑现的判断?五年之后再回头看,会不会也有一份两三页的文件被翻出来,让今天争得面红耳赤的路线,显得早就有了答案。

© 版权声明

相关文章

暂无笔记

您必须登录才能记录笔记!
立即登录
none
暂无笔记...