万亿Token调用量验证,PPIO如何打造新一代智能Token工厂?

晓曦·2026年07月18日 21:45
PPIO定义的\x26quot;智能Token工厂\x26quot;,是一套围绕Token全生命周期进行优化的大规模生产与交付体系。

Token经济正当时

2026年的AI产业,正在经历一场从训练到推理的权力交接。国家数据局在3月的国新办发布会上披露了一组数字:截至2026年3月,中国日均Token调用量已突破140万亿,相比2024年初的1000亿增长了1000多倍。两年时间内,这个数字翻了四个数量级。

Token不再是技术文档里生僻的计量单位。它已经成为AI时代最基础的交易单元——像电、像水、像过去的CPU核数,区别在于它的膨胀速度远超人类历史上任何一种基础资源。

IDC还预测,全球年度Token消耗量将从2025年的0.0005 Peta Token跃升至2030年的15万Peta Token,年复合增长率高达3418%。到2031年,全球活跃智能体数量将达到3.5亿个。

驱动这场爆发的,正是AI赛道的结构性转向。

2026年之前,AI产业的主战场在训练,堆GPU、跑参数、卷榜单。但2026年之后,推理正在成为算力消耗的主引擎。IDC测算,2026年中国AI服务器市场规模预计达3500亿元,需求结构已从"训练驱动"切换为"训练+推理双轮驱动",推理服务器出货量已逼近训练机型。

除推理需求的不断扩容外,智能体应用的萌芽以及推理成本的断崖式下降都在推动行业走向爆发。越来越多共识正在行业里诞生,AI从"回答问题"走向"动手干活",今年WAIC上,多个智能体应用和手机齐发,而每一次智能体的自主规划、工具调用、多步骤执行,都在以指数级的方式消耗Token。

这个转变对算力基础设施的冲击也是颠覆性的。

PPIO联合创始人兼CEO姚欣告诉36氪,"传统云计算服务的是人,程序员开一台虚拟机至少用几天甚至几个月;而Agent调用任务则是碎片化、高频化的。PPIO平台上的Sandbox最小结算单元已经是以秒为单位"。

人在用云时,有波峰波谷,跟着工作和睡眠周期走。但Agent用云是7×24小时的。

在延迟方面,二者也有差异。人对延迟的容忍度在秒级,但Agent完成一个复杂任务需要反复调用几十次甚至上百次,每一次几百毫秒的延迟被循环放大后,任务执行效率就会变得不可接受。

这些差异意味着,为人类设计的云计算架构,无法直接服务于Agent。

也是在这一背景下,Token工厂成为调节算力运力不可或缺的环节,也备受市场瞩目。

根据灼识咨询数据,按2025年及2026年第一季度平均每日Token消耗量计,PPIO在中国独立AI云计算服务提供商中排名第一。2026年4月,平台日均Token消耗量已达1.03万亿次;到6月,这个数字进一步突破1.2万亿次,较2025年同期增长超8倍。

另据披露,PPIO的AI云计算收入从2024年的1038.7万元跃升至2025年的1.192亿元,同比增长超10倍。平台全球注册开发者从2024年末的12.5万人增至2026年6月的超过66.6万人。

解决效率难题,智能Token工厂来了

当推理成本每年下降10倍,单纯提供算力资源的商业模式正在迅速失去溢价能力。真正有价值的,是谁能用更高的效率、更低的成本、更优的体验交付Token。

PPIO定义的"智能Token工厂",是一套围绕Token全生命周期进行优化的大规模生产与交付体系。

姚欣告诉36氪,Token工厂概念的兴起虽然是在2026年3月的GTC大会之上,但PPIO从2023年就在做推理服务,2024年已推出MaaS平台,在这个方向上已经积累了三年多的时间。

"今天的Token工厂不稀奇,更重要的是如何将Token工厂的智能化水平不断提升。"姚欣认为,"你买一堆算力、部署模型,看似能生产Token,但问题是,如何高质量、高效率地生产更智能的Token?"

姚欣因此提出了一个Agent时代的核心公式——Agent生产力=Token智能密度×Agent Loop时长。其中,Token智能密度决定了Agent每一步决策的质量上限,Agent Loop时长决定了Agent能持续运行多久、完成多复杂的任务。

围绕这个公式,PPIO智能Token工厂在国内率先推出了智能模型网关,这是AI Agent的智能调度中心——关键决策由混合模型把关提升质量,简单任务由模型调度自动分流到轻量模型,确保Agent用最低的Token成本、最高的智能性能把任务完成,持续推高Token智能密度。

关于混合模型,姚欣向36氪透露,PPIO正在测试将两到三款不同模型组合使用,让它们互相PK和讨论。内部测试中,这种混合模型方式已经能够在某些任务执行上超越GPT-5.6。"虽然单模型性能上可能还有小幅差距,但通过付出一定的算力和Token消耗,可以获得更强的最终任务执行能力。"这意味着模型的智能上限可能不只在参数内部,还可以通过工程化的方式从外部突破。

这便是智能模型网关的运作原理,通过给AI应用提供一个混合推理系统,智能模型网关让每次模型调用都变成一场"专家会诊"。

过去,PPIO自底向上搭建了从GPU集群、到推理服务优化再到应用场景深度理解的全栈式AI云能力,背后体现的是极致的效率能力。

姚欣为我们举例了三种典型场景,人的对话交流、智能体调用、AI编程,这三者对性能参数的要求完全不同。人追求的是秒级响应,智能体要求毫秒级,AI编程对精度的要求最高,希望少犯错。基于不同场景做定制化优化,是PPIO与其他平台公司的重要差异。

在具体的产品能力上,PPIO的差异化路线还体现在几个维度:

快速集成,开箱即用。

平台中立,不被任何模型生态绑定。姚欣向36氪透露,一个应用开发者平均要调用10到15款不同类型的模型,而且每三个月就要根据模型迭代切换一次。PPIO平台上支持200余款开源模型统一接入,用户切换模型只需改一行代码。这种中立定位在开发者中建立了信任,也是切入市场的重要战略选择。

自研推理加速引擎,为Agent调用模式深度优化。不同于传统云计算的通用架构,PPIO的整个技术栈从底层就在适配Agent负载的碎片化、高频化、连续性特征。

值得一提的是,行业GPU利用率的平均水平通常在40%到50%之间,而PPIO长期维持在75%以上。姚欣告诉36氪,公司依托分布式算力调度能力,打通全球六大洲5000余个算力节点,依靠东西半球时区错峰调度,将不同时间、空间和请求频次的负载进行高质量融合,最终在后台呈现出一条接近直线的利用率曲线。

现如今,算力成本正在节节上涨,能否把已经生产出来的算力"榨干净",直接决定了企业未来能否盈利的能力。而PPIO在这个指标上的表现,构成了其重要的护城河。

Agentic Cloud:下一波Token消耗的基建浪潮

智能Token工厂解决的是"今天如何高效生产Token"的问题。而Agentic Cloud回答的是"明天Token会被谁、以什么方式消耗"这个更宏大的命题。

2026年,全球云巨头不约而同地发布了Agentic Cloud战略。谷歌在Next'26大会上提出Agentic Cloud战略,发布Agent Engine与Agentic Data Cloud;阿里云宣布完成全栈智能体化升级;亚马逊推出AgentCore;微软的Foundry Agent Service正式商用。目标只有一个,那便是让Agent成为云的最核心受众。

在WAIC 2026上,PPIO正式发布"Agentic Cloud"的全新定位,姚欣认为,这一战略的核心逻辑是:云的第一用户正在从人转向AI Agent

行业趋势也在发生这样的转变,AI智能体的自主推理、工具调用、多步骤工作流具备持续、高频、密集消耗Token的特征,对云基础设施提出新的要求。

姚欣还向36氪分享了一组数据,全球80亿人口中,可能只有20%用上了AI,真正付费的只有5%左右,这意味着,人用AI还有巨大的增长空间。但与此同时,智能体的调用正在发生指数级增长。以PPIO自身为例,300多名员工,后台的Agent已经有近千个,开发、运维、客服等工作都在Agent化。一个人可以拥有10个、100个Agent,每个Agent都在7×24小时消耗Token。

基于这种多元的需求,PPIO对Agentic Cloud的产品架构分为了三个层级,基础设施层、模型服务层和Agent Harness平台层。

需要特别说明的是,Harness作为专门用于约束、指导、验证和纠错Agent执行的工程框架,其涵盖了除大模型本身之外的所有环节:上下文构建、工具编排、验证循环、成本控制和可观测性。

沙箱是Harness的核心组件之一。去年,PPIO推出了国内首款兼容E2B接口的Agent沙箱,为Agent Harness提供安全隔离的运行环境。

姚欣提到,去年发布沙箱时,行业对智能体的理解还停留在"模型调用的手和脑"。到今年年初,随着OpenClaw等开源智能体的普及,大家才意识到真正的痛点是长程任务、复杂任务的持续执行。

据PPIO官方透露,PPIO Agent沙箱冷启动时延低于200 ms,采用系统级安全隔离,让每个Agent任务运行在独立虚拟机环境;支持上万个沙箱同时创建,同时任务空闲时可自动暂停计费,综合使用成本较同类产品降低90%以上。PPIO Agent沙箱上线一年,业务规模已增长超120倍。

现如今,Token定价的排序本身已经产生了规律,编程是最贵的,其次是智能体,最便宜的是给人提供对话服务。这个排序本身就说明了未来Token消耗的方向。

姚欣认为,"我们服务的对象从人变成了Agent,甚至未来的机器人。"

这个转变正在重塑云计算的商业模式。过去云计算比拼的是功能数量、生态封闭程度。而在Agent时代,比拼的是谁能让硅基生命跑得更快、更便宜、更稳定。PPIO的选择是:不做封闭花园,拥抱开源;不做全栈替代,做AI时代的互补者。

Token经济正在重新定义算力的价值尺度,而在这场重构中,效率最高的人,才能拿到最后的船票。

+1
2

好文章,需要你的鼓励

参与评论
评论千万条,友善第一条
后参与讨论
提交评论0/1000

36氪AI测评

选靠谱AI,看真实评测
查看
36氪AI测评官方交流社区
加入

36氪寻求报道

咨询报道审核和入驻
联系
36氪寻求报道订阅号
关注

下一篇

商汤发布SenseNova U1 Pro,开启多模态交付新时代

2小时前

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

推送和解读前沿、有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业