今年最贵A轮
“我的选择困难症有救了”,这是我接触Jev模型后最直接的一个想法。在现实生活中,像我这样害怕做单选题的人并不是少数。
打车还是坐地铁,消息现在回还是晚点回,购物车里的东西买还是不买。一天里,这样的二选一很难数清,虽然这些决定大多谈不上沉重,但数量累积起来却相当惊人,流传最广的数字是成年人平均每天要做约3.5万个决定。
这数是有点扯,但意思大差不差。所以,有人投硬币,也有人夸张到专门写一个程序替自己拿主意。心理学把这叫决策疲劳,即便选项已经少到不能再少,也未必能迅速拿定主意。
9月15日,一个只回答选择题的模型上线了。它叫Jev,不会聊天,不写代码,不给解释,但是如果你给它一段状态加几个固定选项,它会回你一串概率。
让人意外的是,这款模型发布后很快走红,接连刷新行业纪录。融资紧随其后,仅仅24天,Jev背后的公司TypeSafe AI就官宣完成了8.7亿美元(约58亿人民币)A轮融资,估值75亿美元(约502亿人民币),成为了今年的最贵A轮。
本轮融资由a16z领投,红杉资本与老股东DCVC等参与。回看今年这十个月,几乎所有AI都在想怎么把话说得更好听,可这一次,顶级VC的钱却投给了一个哑巴模型。
隐身两年
尽管Jev模型在C端率先火爆,但其实它被设计的初衷并不是为人服务的。
TypeSafe AI成立于2024年,总部在旧金山。公司名“TypeSafe”本身是个程序员的梗。类型安全,说的是变量再怎么折腾,也出不了类型划定的范围,程序就不会崩溃。当前这家公司大约有20个人,公司内部的口号是“Build Prod, Not God”,意思是“造生产工具,别忙着造神”。
在Jev之前,这家公司几乎没有对外发声过。就连创始人Diogo Almeida社交账号的互动量也是长期停留在个位数。
作为公司的创始人和CEO,Almeida先后在Google Brain和OpenAI任职,是InstructGPT论文的核心作者之一,也参与过ChatGPT和GPT-4的相关工作,RLHF是他长期的研究方向。所以今天大模型能对话这件事也有他的功劳。
另外两位创始人是Erik Gafni和Sasha Sheng。
按照Almeida在LinkedIn上的回忆,他于2021年在一次聚会上认识Gafni,两人经常交流模型开发,Gafni也很早就理解了TypeSafe的设想,后来成为了最先加入的人。Sheng是Almeida的老朋友,也是一位华人,创业后Almeida找她讨论,原本是想听听自己的判断有没有问题,没想到她听完后很快就决定加入。
从经验来看,Gafni曾在Invitae和Freenome工作,也经历过多次创业,熟悉生产环境中的AI系统。Sheng则先后在Meta/FAIR担任研究工程师,参与信息流及AI研究相关工作,可见三人的履历里,既有模型研究,也有把系统交给实际用户使用的经验。
早在创业初期,Almeida对模型的期待就已经有了一个非常具体落点,而且是与“聊天”完全不相关的。在他看来,模型聊天能力不断提高,可企业却仍然不放心把工作交给软件自动完成,这两者之间的差距,让他看到了机会。
具体地,跟人一样,软件每天处理的判断题也很多。比如邮件要不要拦截,投诉要不要转人工,搜索结果值不值得保留,全是这种小事。可如果把这些问题,放进一套有大量用户的系统,调用次数就会成倍增加。
以每天100万条请求的系统为例,假设每条请求需要10次判断,一天便有1000万次决策。每次多花一点钱或多等一会儿,累积起来都是企业需要计算的成本。在Jev诞生之前,行业通常的做法是把它们统统喂给市面上最聪明的模型,让模型生成一段解释,再由程序员写解析逻辑,把真正的值从解释里抠出来。
渐渐地这种做法的弊端开始出现,又慢又贵。于是,TypeSafe成立后的两年,没有去做更大更全的模型,而是去搭了三样东西,一套新的模型架构,一个并行采样器,还有一种他们称为 RLCD的训练方法,全称是“面向校准决策的强化学习”。
这三样东西之中,校准尤为重要。Almeida用过一个很形象的比喻,如果一个模型在95%的时间里表现得像爱因斯坦,而剩下的5%则像憨豆先生,那它在自动化场景里就是不可用的。聊天时答错,人可以追问,也可以纠正。而在无人值守的软件流程里,一次错判会沿着调用链一路放大。
于是,当这些准备工作都顺利完成,9月,TypeSafe走出隐身,同时宣布了4000万美元种子轮,由DCVC领投,估值约2亿美元。9月15日,第一个System One模型Jev开放早期访问。
这两个名字也暗藏玄机,System One来自卡尼曼的《思考,快与慢》,指人身上那套快速而近乎直觉的判断机制。Jev则取自19世纪经济学家威廉·杰文斯,成本越低用量越大那条悖论,就是他提出的。
一夜爆火
模型领域其实并不缺新故事,但Jev的推出还是迅速赢得了市场积极的反馈。
在产品形态上,Jev简单得有点不像AI。它只接受三类问题:
Choice,从你给的一份列表里选一个,返回每个选项的概率;
Score,按你给的评分标准打分;
Noul,对一个命题给出 0 到 1 的真假概率。
Choice和Score会额外返回置信度。三类问题可以在同一次API 调用里,并发地对同一份状态求值。
账面数据上,Jev又快又省。端到端响应70到500毫秒,定价每百万输入token0.042美元,输出免费。a16z在投资公告里为此加了一句注解,输出量太小,小到他们干脆不收这笔钱。
官网给出两个数字,快193.6倍,便宜444.6倍。有意思的是,公司自己主动给这两个数字打了折,它们来自TypeSafe团队自己搭建的工作流评测,处在真实收益区间的高位,可能存在偏差。
另一个卖点在于Jev的接口相当克制。开发者可以让它在候选项中选择,也可以要求它按标准评分,或者判断某个命题成立的概率。几个问题能够在同一次调用中并行处理,程序拿到结果后继续执行。遇到需要综合权衡的复杂任务,官方文档建议先拆成更明确的问题,再用代码组合结果。
例如,一封客服邮件可以被分别判断是否紧急,以及应由哪个部门处理。企业能在代码里决定低置信度的请求交给人工,高置信度的请求自动分流。模型处理其中需要理解语义的部分,后续操作仍由业务系统控制。
这种用法对企业有吸引力,也划出了Jev的能力边界。它不能替用户写回复,开发者还得定义问题和候选项。TypeSafe的机会在于,能否让企业在完成接入之后,以更低成本反复使用这部分判断能力。
数据证明,它的确抓住了这波机会。Jev上线AI Gateway后12小时便超过了该平台同期的其他模型,24小时内接近13%的付费团队使用了它,这是平台内部的全新记录。
另据TypeSafe公布的数据,已经有三分之一的《财富》500强企业使用了Jev,同时一个更具象的样本是,人才匹配平台Jack&Jill把候选人筛选的工作从Gemini整体换成了Jev,成本直接降了88%。
Almeida在最近的访谈中透露,Jev日处理量已经站上1万亿token,而且模型上线后不久,公司就开始盈利了。
他还强调,夜间的流量还在往上走。之所以关注这个数据,是因为聊天机器人的流量来自人的好奇,白天用,夜里睡,热度过了就往下掉。而被后台程序调用的模型不遵循这个逻辑,夜里的曲线依旧往上,说明它已经真的进入了生产系统。
全球跟风
TypeSafe一火,全球市场开始批量复制。
24天里,OpenAI和微软先后入场,Cloudflare与亚马逊各出一款,Perplexity开源了自己的版本,而国内至少有两家创业团队也在其中。上海人工智能实验室在9月底放出了多模态决策模型 Intern-Decision,卖点是能读懂图像和界面再做判断,自称推理速度是Jev的2到3倍。
相比来讲,国内更受关注的是StartLux,这家公司注册在上海,成立还不到五个月,背后是一位老炮儿——盛大网络联合创始人陈大年。9月30日,它开源了StartLux-Decision,一口气给了0.8B到27B五档规格,每档都配了量化文件,同样自称超过了Jev。
国内大厂的反应主要则体现在了工程讨论和试验上。
Datawhale推出了中文Jev课程,其资料库收录了腾讯技术工程对模型和智能体判断任务的分析,阿里云开发者社区也出现了相关介绍。他们关心的议题很具体,包括工具调用该怎样分流,以及哪些上下文可以删除,当然,这些信息仅可以证明技术关注。
为什么短短时间内Jev模型的性能就能被追赶,有投资人告诉我,决策模型的技术并不难,“任何一个大模型公司几天就能做出来了”,真正难得的是这个idea,所以对于TypeSafe的巨额融资和高估值,他难以理解,“美国现在很多投资都挺魔怔。”
的确,从种子轮官宣到A轮官宣,间隔24天,融资金额膨胀了22倍,估值涨了37.5倍。很多人都会不禁问一句,凭什么?
答案或许从a16z的口径中窥见一二。他们说,“Jev的发布,是我们今年见过的最大的一次叙事反叛(the biggest narrative violation we’ve seen this year)。”紧接着是对行业现状的拆解。“‘AI吞噬软件’这句话,讽刺地意味着它在更快地写出更多传统软件,却不一定让软件变得更智能。”
a16z认为真正的解锁点在于,让所有软件都能原生地嵌进最新模型的智能,同时把性能和成本压到传统软件能接受的水平。
他们把这套逻辑浓缩成一个双关,杰文斯悖论(Jev-ons paradox)。智能便宜到一定程度,就会被到处调用,单价往下走,调用量往上走,总收入的空间反而被撑大。这就是75亿美元估值的定价逻辑。
不过融资里有一个细节,《The Information》此前报道过,在A轮敲定之前,TypeSafe接触过一笔规模超过10亿美元的融资,投资人开出过100亿美元以上的估值。最终没能成交。未来,TypeSafe估值能否再往上走一步,靠的就不光是资本的热情了。
本文来自微信公众号“投中网”,作者:张雪,36氪经授权发布。















