做了个 AI 功能,成本是不是只有 API 费用?
很多产品经理看一眼API账单,就觉得AI成本控制得不错。其实API费只是最小的一块——标注、人工兜底、知识库维护加起来,通常是API费的3到5倍。Klarna裁掉700人又招回400人的教训就在眼前:把四项成本算清楚,再决定要不要做AI。
我见过不少产品经理,大部分人只在心里默认"成本 = API 费"。看一眼账单上的 API 费,就觉得"成本控制得还可以"。其实呢,API 费只是整个成本里最小的那一部分。
数据标注要投一笔、人工审核要专人看守、知识库要不断维护、流程要不断调整、坏案例要人工兜底……这些加起来,远远超过了 API 费。
接下来我把 AI 功能的成本拆成四项,告诉你每一项到底要花多少钱、怎么避坑。
成本一:API 调用费——你唯一能看见的成本
最简单的算法是:每天会话数 × 平均单条 Token 数 × 单位价格
比如:
日均 1000 会话
平均每条对话 400 个 Token(输入200,输出200)
使用 Claude,输入 0.3 元/百万 Token,输出 1.2 元/百万 Token
那么:1000 × (200 × 0.3/100 万 + 200 × 1.2/100 万) ≈ 30 块/天,月成本 900 块
但这只是理想情况。实际上,你的输出 Token 往往比预期多(因为 Prompt 不够精准),所以真实成本通常是预估的 1.5-2 倍。
坑一:输出 Token 比输入贵 4 倍
以
这就意味着,你看似省钱的操作,其实不一定省。比如你想"缩短 Prompt"来省输入 Token,结果反而让模型输出变长了(因为 Prompt 不够清楚),那整体成本反而增加了。
坑二:缓存优化能降成本 95%
如果你有一套固定的 Prompt(比如同一套系统提示词、同一个知识库前缀),在 Claude 或 Gemini 上可以用缓存技术,成本能降 95%。从每天 100 块的成本降到 5 块。但大多数团队根本不知道这个东西,白白浪费了钱。
算一下:
1 万汉字 ≈ 1 万~1.5 万 Token。生僻字、冷门词费 Token;常见字、高频词组省 Token。
一个 AI 客服系统,日均 10 万条咨询,每条 200 Token,月成本近 5000 元(按 8 元/百万 Token 计)。如果是知识库问答,消耗是一般对话的 3-5 倍。
成本二:数据标注成本——一次性投入但金额不小
这个成本很"一次性"。初期需要投,后续维护成本比较低。
怎么算?
取决于你的功能复杂度:
简单分类或标签:一条 1-3 块钱,10000 条差不多 1-3 万块
专业领域的数据标注(医疗、法律、财务):一条 10-20 块,10000 条得 10-20 万块
复杂的多标签标注:一条 20-50 块
一个通用的知识库类功能,初期标注成本通常在 5-10 万块。这笔钱后续还会花,但频率降低了。可能一个季度新增 1000 条数据,又得花 1-3 万块重新标注。
OpenAI 2023 年底做过一个 Linux 内核源码理解的研究项目。他们标注了上千条内核代码片段,每条标注包括功能描述、依赖关系、潜在风险点。标注团队全是内核开发者,时薪 50-100 美元。整个项目的标注成本超过 50 万美元。
这说明什么?
专业领域的数据标注,成本可能远超你的 API 费。
成本三:人工兜底成本——真正的大头
一个 AI 功能上线以后,远不是"挂上去就完事"。你还得:
质检和审核。AI 生成的结果有 3-8% 的错误率是正常的。但这些错误你得抓出来,否则用户投诉就完了。
流程编排和优化。AI 的输出不总是一次性完美的,需要加规则、加判断、加降级方案。
人工兜底。总有些 AI 拿不准的情况,需要转给人工。
根据合力亿捷的调研,日均 200-500 会话的 Agent,需要 0.3-0.5 个等效人力来运营。
合力亿捷给了一个 ROI 三笔账框架:
替代人工量:自主解决率 × 人工处理时长
效率增益:响应速度提升、时长覆盖扩展、人工释放效应
质量风险:错误回复率 3-8% 为正常,超过 10% 说明知识库或流程有问题
我们模拟一个数据:
月 Agent 会话数 6000
自主解决率 75%
人工单次处理 6 分钟
月替代人工工时 450 小时 ≈ 2.5 人
月替代人工成本 1.8 万 + 月效率增益 4500 元 − 月运营人力成本 4000 元 = 1.85 万÷(月系统成本 0.8 万 + 月运营人力成本 0.4 万)= 1.54
即每投 1 元产出 1.54 元。
案例:Klarna 的失败
瑞典支付公司 Klarna,2023 年下半年大举推 AI 客服,计划用 AI 替代 700 个人工客服。看起来特别划算对吧?700 个人,平均月工资 4000 块(考虑瑞典人力成本可能更高),一个月省 280 万块。
但一年后呢?他们发现,虽然 AI 确实能自主解决 80% 的简单问题,但剩下 20% 的复杂问题需要人工,而且人工还得帮 AI 擦屁股。最后他们不得不招回 400 人来处理 AI 的错误、做质检、优化流程。
最讽刺的是,他们算错的关键成本项是人工兜底。
初期估算的时候,他们以为"人工兜底就是接个转移,不用多少人"。实际上呢?每个人工处理一条咨询需要 10 分钟(包括理解上文、修正 AI 的理解、重新回复),这 20% 的工作量其实需要接近原来 50% 的人力。加上质检、知识库维护、系统优化,他们需要的总人数其实是原来的 60%,而不是 0%。
成本四:维护迭代成本——看不到尽头的投入
AI 功能不是一次性的。用户的需求在变,业务规则在变,模型也在升级。你得不断地:
更新知识库(内容增删改)
调整 Prompt 和规则
升级模型(从旧模型换新模型)
处理新的业务流程变化
做性能优化和成本优化
根据阿里云的数据,一个企业级的知识库 RAG 系统,初期开发 5-15 万块,但后续每个月的维护和优化成本也得几千到万把块钱。
字节跳动内部用 AI 做内容审核,他们的成本结构就健康得多。
为什么?因为他们从一开始就把成本预期算对了。日均审核 100 万条内容,他们清楚地知道:
AI 自主审核能解决 70% 的明显违规
剩下 30% 需要人工复审,一个人每天 8 小时最多审核 500 条
所以他们需要 100 万 × 30% ÷ 500 ÷ 8 ÷ 21 ≈ 180 个人
再加上 50 个人做知识库维护、规则优化、模型升级
总共需要 230 个人
如果自己全手工做这 100 万条,需要 100 万 ÷ 500 ÷ 8 ÷ 21 ≈ 1200 个人。
所以字节的 AI 方案,省下了 1000 个人,虽然成本不是"节省 100%",但也省了 80%。而且是从一开始就知道自己能省 80%,而不是算错了以为能省 100%,最后幻灭。
小团队的生存法则
如果你是小团队,怎么办?我的建议是:不要一开始就做全自动化,要做"渐进式人工兜底"。
比如你的 AI 客服功能:
第一阶段:先做简单问题的自动回复(FAQ、订单状态等),自主解决率 60%,剩下 40% 转人工。这个阶段你只需要现有客服团队的 40% 继续处理转移过来的问题。成本几乎没增加,就多了 API 费。
第二阶段:等 AI 积累了一些数据和案例以后,开始做中等复杂度的问题。自主解决率上升到 75%,人工工作量降到 25%。这时候你可以裁员 15%。
第三阶段:继续优化,可能能达到 80%。
这样的好处是:你不会被成本结构变化打得措手不及。小团队最怕的就是"AI 很便宜啊才几千块一个月",然后一年以后发现月成本 10 万块,根本负担不起。
总结
算 AI 成本就像算医保。有人只看"医保报销比例"(API 费),觉得"才占 20% 啊,特别便宜"。但真正决定医疗成本的,是"自付额"(人工成本)和"医保外"(维护成本)。
一个看似"成本只有几千块"的 AI 功能,实际的全成本通常是 API 费的 3-5 倍。如果你一开始没算对,后面就得为这个低估的成本预期买单。
Klarna 花了 700 个人和巨大的信誉成本,才学会了这一课。你可以不用这么惨,从现在开始就把成本算清楚:
API 费(最小的一块)
数据标注成本(一次性大投入,或滚动小投入)
人工兜底成本(需要专人长期看守)
维护迭代成本(永无止尽的成本坑)
把这四项加起来,才是 AI 功能的真实成本。
本文来自微信公众号“人人都是产品经理”(ID:woshipm),作者:AI产品经理老猫,36氪经授权发布。















