a16z押注的免费AI助理,账记在你的芯片上

24小时AI快讯1个月前发布 changgong
2.5K 00

不用订阅费,不放广告,还承诺你的邮件和文档一步都不离开电脑,这样的AI助理,钱从哪来?答案不在融资公告里,在一块13.5GB的模型权重里。

一、免费这件事,先得有个物理基础

10月2日,a16z宣布领投22岁的Sigil Wen创办的Conway Research首轮融资,金额和估值都没公布。三天后,第一款产品Underdog开放邀请制测试,Mac和Windows都有,断网也能用。

Underdog的主力模型是270亿参数的推理模型,基于Qwen3.8-27B训练,另有40亿参数的小模型Woof负责轻任务,都跑在Conway自研的推理引擎Husky上。Husky的思路是减少CPU和GPU之间的数据搬运。

270亿参数按4-bit量化粗算,每个参数半个字节,总共大约13.5GB,放进一台32GB内存的Mac绰绰有余。

13.5GB不是一个技术参数,它是「免费」这件事的物理基础。模型装得进用户手里的机器,厂商就不必为每一次调用付云端的推理账单。装不进,后面所有的商业模式都免谈。

二、云端每问一次都在花钱,本地不用

云端助理的账是这样的:用户每问一次,厂商就产生一笔真实的推理成本,调用量直接等于账单。免费策略在云端是一笔营销预算,用的人越多,烧得越快。

端侧把这笔账换了地方。用户买电脑的时候,芯片和内存的钱已经付过了,之后每多跑一次推理,厂商的边际成本接近零。

同样写着「免费」,一边是补贴,一边是结构。

两种成本结构带来两种定价自由度:云端放开免费,亏空跟着用量一起涨;端侧放开免费,拿到的是用户规模。这不是运营手法的差别,是账本的差别。

所以端侧产品最难迈的第一道门槛是内存容量,模型能力反在其次。能力可以靠蒸馏和量化一点点追,装不下就是装不下。

三、a16z 一周两笔钱,押的是两个成本答案

同一周,a16z还领投了另一家本地AI公司。19岁的Zain Javaid创办的Ghost拿到1100万美元种子轮,第一款产品Core是一台专为AI agent设计的电脑,售价3499美元,没有屏幕,通过手机使用。

两家公司对「电脑」的答案完全相反。Ghost认为在现有硬件上跑模型体验太差,要为agent单独造一台机器;Conway不卖硬件,赌你手上那台Mac或Windows会随着芯片和模型的进步一点点变得够用。

两条路的现金支出差一个数量级:3499美元要先掏出来,换一块专用GPU;Underdog的硬件成本是零,前提是你手上那台电脑内存够用。

Conway给自己写了条定律,官网叫它Underdog定律:今天最前沿的智能,六个月后会抵达你的设备。这条定律如果成立,专用硬件的窗口会被不断压缩,今天的盒子明年可能只是一台普通笔记本能做的事。反过来,如果下一代旗舰靠的是巨大集群和长时间推理,那盒子就成了唯一装得下最新模型的容器。

a16z一周之内两边下注,等于承认这个岔路口暂时看不清。还有两个流传的数字要打折看:27B在其自家评测中超过Claude Opus 4.6;Husky在M5 Max上跑到Apple MLX的4.5倍,限定在某个模型、某块芯片、某个函数修改任务的峰值,不是日常平均。

四、不订阅也不放广告,它靠成交抽佣

Underdog上线免费,也没有广告。Conway的计划是:助理替你完成购买时,通过Stripe抽一小部分佣金。这笔钱只在真办成事时发生,用户没买成东西,公司就没有收入。

三种变现方式的利益对齐不太一样。订阅制下,用户满意才会续费,双方大致同向;广告制下,助理希望你多停留、多点击,跟你的目的直接冲突;佣金制落在中间,大多数时候一致,在购买决策那一刻出现偏移。

一个靠你买东西赚钱的助理,在你犹豫要不要买的时候,立场会不会变?

这是这个产品最该被盯住的地方,也是「AI为你工作」这句话唯一能被验证的方式。技术指标说不清,融资公告也不会写,只能看长期行为:在你最想省钱的时候,它会不会老实说一句「这个可以不买」。

早期这个问题不痛。用户少,佣金收入低。真正的考验在要发工资、要训练下一代模型的时候,每一次「劝你别买」都有明确的代价。

五、省下的推理账单,会变成运维账单

把模型放进用户设备,省下的是推理账单,多出来的是运维账单。这笔账不好算,我认为被低估了。

云端产品出一次bug,改一次,全体用户同时生效。端侧要把更新送到几万台配置各不相同的机器上,同一个问题在不同配置上可能表现完全不同。评测、更新、客服的复杂度会成倍往上走。

Conway在官网上称自己是一个小而强悍的团队,同时要做模型、推理引擎和两个平台的应用。这个组合对工程组织的要求不低,而它面对的是一群分散在用户手里、无法统一管理的运行环境。

这是我从成本结构推出来的判断,不是已经发生的事。但它决定了「免费」能撑多久:运维成本一旦超过省下的推理账单,端侧的成本优势就被吃掉一部分。

六、断网的时候,云端助理只是个打不开的网页

断网的场景值得单独讲。飞机上、内网环境、不方便把文件传出去的办公室里,云端助理只是一个打不开的网页,用户面前没有「隐私还是能力」这道选择题,只有能不能用。

这类场景的付费意愿通常比消费级更强,企业愿意为「数据不出机器」付钱,个人愿意为「在飞机上能干活」付钱。端侧最先站稳的地方大概率在这里,而不是跟云端助理抢同一批日常问答。

手机端还留着伏笔。Underdog称27B模型在iPhone上也能跑,手机要是成为主力载体,分发路径比应用商店短。

接下来半年,能验证的东西不多,但都很硬:测试用户里有多少人每天真的打开它,Husky的速度能不能从峰值走到日常,佣金模式在第一批真实购买里用户买不买账,六个月定律能不能在下一代大模型发布后再被验证一次。

这些答案都不用等很久。等它们出来,本地AI到底是一门生意还是一个姿态,自然就清楚了。

© 版权声明

相关文章

暂无笔记

您必须登录才能记录笔记!
立即登录
none
暂无笔记...