
10月22日,蚂蚁数科发布决策模型 LingDT-Decision-1.0,4B 和 27B 两个版本,已经在自家的 DTMaaS 平台上限时免费开放。蚂蚁数科给出的测试数字是,处理同样的任务,Token 消耗比大语言模型降低超过90%,响应时效提升10倍。
一、一条催单消息,要过四道判断
客服坐席收到一条消息,「这个订单已经三天了还没发货,请尽快处理。」
人扫一眼,脑子里要过四件事。这是催单、投诉还是退款申请;要不要插到队首;该派给物流、售后还是仓储;要不要直接转人工。
四个问题,四次判断。判断完,工单才能往下走。
这四个判断串在一起,才叫一次完整的工单前置处理。少一步,后面的动作就歪。
这类动作在企业里一天发生几百万次,单次只值几秒钟。高频、低价值密度,但对准确率敏感。工单派错部门,客户多等一天;风险等级判低,后面得靠人兜。
二、判断类任务一直由生成模型代劳
大模型擅长的是产出内容,写文案、写代码、把长报告压成三句话。判断不在它的强项清单上。
过去两年没有专门干判断的模型,只能拿生成模型顶上。顶的办法是把判断写成一段话,再从那段话里把结论解析回来。一次判断,先生成几十上百个 Token,再跑一轮解析和校验。
链路一长,出错的口子就多。格式不合规、字段缺一个、换个说法就认不出来,每一种都要额外的兜底逻辑去接。
蚂蚁数科在数据标注场景测过一组对比。相比 DS-V4-flash,Token 消耗降低约97%,处理时效提升约10倍。智能客服场景相比 Qwen-3.7-flash,Token 降低90%,时效提升约1倍,风险识别准确率从76%提到89%。
最后那个数字的含义不止于降本。准确率抬十三个百分点,原本漏掉的风险就得靠人兜回来。
三、九成Token省在「不用把答案说出来」
省下来的九成 Token,来自一个很具体的改动,不再把答案说出来,直接在给定的选项里给结果。
多标签识别、复合意图、工具组合这类任务,可选答案本来就是个有限集合。判断的本质是在这个集合里打分排序。文字生成把这件事绕了一整圈,先自由发挥,再回头解析。
决策模型砍掉的就是这一圈。输出空间被限定在候选集合内,模型只负责选,不负责组织语言。解析和校验的环节随之消失,格式错误也没机会发生。
金融场景的测试数据能看出另一个侧面。意图识别、工具调用、幻觉检测三类任务,处理时效提升约5倍,工具组合完全匹配率提升约2.6倍,幻觉召回率从44%提到70%。
召回率比准确率更能说明问题。44%的召回,等于超过一半的幻觉没被发现,这类漏检在金融场景里代价很高。70%仍然不是满分,但已经摸到了能进生产线的门槛。
更实际的一层是维护成本。判定类任务的规则改得频繁,一个模型能同时覆盖意图、分类、打分、工具选择,业务侧加一个判断维度不用再单独接一个模型。这部分开销在成本报表上从来不会单独列出来。
四、多选和按顺序,才是企业里的常态
企业里更难处理的,是一句话里塞了三件事的请求。
用户说,「我要退款、关闭续费、补开发票,但不要注销账号。」
单选模型读完,通常只抓最显眼的那一个,退款。续费和发票被丢掉,用户还得再提一次。
原生多选解决的是一次识别全部诉求。退款、关闭续费、补开发票三条都命中,注销账号不命中。按序决策解决的是顺序。退款要先核验资格,关闭续费可以立刻执行,发票得等退款结果出来才好开。模型交出来的是一张有向的任务图,三个节点之间有先后,也有依赖。
单选和多选的区别,本质是输出空间的形状。单选是一个点,多选是一个子集,按序决策是一串有序的子集。企业流程一复杂,需要的形状就离一个点很远。
这两项能力,蚂蚁数科的说法是全球首发原生支持。多数决策模型只做单选和分类,多步任务要靠外部流程编排把单次判断串起来。
23项开源评测基准的成绩单是这样的。27B 版本的加权综合评分(90%乘单选加10%乘多选)排第一,超过 Microsoft-Decision-1、Jev 1.13.0 和 Fastino/GLiDE。多选任务上,4B 和 27B 一起超过了包括 Microsoft-Decision-1、Jev 1.13.0、Star-lux 在内的16个决策模型。单选任务上处在第一梯队。
五、产业AI开始分成两台引擎
4B 版本能在多选上打赢一批比自己大的模型,这件事对选型的含义比参数量本身更重。
产业AI的调用可以粗分两类。一类要产出内容,客服话术、报告摘要、营销文案,交给生成模型。一类要给出结论,意图判断、工单分级、风险打分、工具选择,交给决策模型。两类任务压在同一个模型上,成本会一直高,稳定性会一直差。
分开之后的账很清楚。三组场景测试里,Token 降幅在90%到97%之间,时效提升从1倍到10倍不等,准确率、召回率、工具匹配率三项同时往上走。
DTMaaS 平台已经上线,4B 和 27B 两档,现阶段限时免费。正在做智能客服、风控、内部流程自动化的团队,可以直接拿去压测,不用先谈采购。
真正需要压测的是多选和按序在业务里的表现。评测基准的多选题有标准答案,业务里的复合诉求常常带歧义。用户说的「补开发票」指哪一笔订单,模型仍然要靠上下文来定。这部分工作,决策模型接不走。
判断和生成是两种活。过去两年它们被压在一个模型里,靠 prompt 和解析层硬撑。现在拆开了,Token 账先降下来,响应跟着快,准确率的抬升算额外收益。下一代产业AI的架构图里,这两台引擎大概会并排放着。
