做了个 AI 功能,成本是不是只有 API 费用?

人人都是产品经理·2026年11月11日 17:00
很多产品经理只看到了冰山一角。

很多产品经理看一眼API账单,就觉得AI成本控制得不错。其实API费只是最小的一块——标注、人工兜底、知识库维护加起来,通常是API费的3到5倍。Klarna裁掉700人又招回400人的教训就在眼前:把四项成本算清楚,再决定要不要做AI。

我见过不少产品经理,大部分人只在心里默认"成本 = API 费"。看一眼账单上的 API 费,就觉得"成本控制得还可以"。其实呢,API 费只是整个成本里最小的那一部分。

数据标注要投一笔、人工审核要专人看守、知识库要不断维护、流程要不断调整、坏案例要人工兜底……这些加起来,远远超过了 API 费。

接下来我把 AI 功能的成本拆成四项,告诉你每一项到底要花多少钱、怎么避坑。

成本一:API 调用费——你唯一能看见的成本

最简单的算法是:每天会话数 × 平均单条 Token 数 × 单位价格

比如:

日均 1000 会话

平均每条对话 400 个 Token(输入200,输出200)

使用 Claude,输入 0.3 元/百万 Token,输出 1.2 元/百万 Token

那么:1000 × (200 × 0.3/100 万 + 200 × 1.2/100 万) ≈ 30 块/天,月成本 900 块

但这只是理想情况。实际上,你的输出 Token 往往比预期多(因为 Prompt 不够精准),所以真实成本通常是预估的 1.5-2 倍。

坑一:输出 Token 比输入贵 4 倍

以 DeepSeek 为例,输入是 2 元每百万 Token,输出是 8 元。原因很简单:输入可以并行处理,输出得一个一个生成,所以费用也高。

这就意味着,你看似省钱的操作,其实不一定省。比如你想"缩短 Prompt"来省输入 Token,结果反而让模型输出变长了(因为 Prompt 不够清楚),那整体成本反而增加了。

坑二:缓存优化能降成本 95%

如果你有一套固定的 Prompt(比如同一套系统提示词、同一个知识库前缀),在 Claude 或 Gemini 上可以用缓存技术,成本能降 95%。从每天 100 块的成本降到 5 块。但大多数团队根本不知道这个东西,白白浪费了钱。

算一下:

1 万汉字 ≈ 1 万~1.5 万 Token。生僻字、冷门词费 Token;常见字、高频词组省 Token。

一个 AI 客服系统,日均 10 万条咨询,每条 200 Token,月成本近 5000 元(按 8 元/百万 Token 计)。如果是知识库问答,消耗是一般对话的 3-5 倍。

成本二:数据标注成本——一次性投入但金额不小

这个成本很"一次性"。初期需要投,后续维护成本比较低。

怎么算?

取决于你的功能复杂度:

简单分类或标签:一条 1-3 块钱,10000 条差不多 1-3 万块

专业领域的数据标注(医疗、法律、财务):一条 10-20 块,10000 条得 10-20 万块

复杂的多标签标注:一条 20-50 块

一个通用的知识库类功能,初期标注成本通常在 5-10 万块。这笔钱后续还会花,但频率降低了。可能一个季度新增 1000 条数据,又得花 1-3 万块重新标注。

OpenAI 2023 年底做过一个 Linux 内核源码理解的研究项目。他们标注了上千条内核代码片段,每条标注包括功能描述、依赖关系、潜在风险点。标注团队全是内核开发者,时薪 50-100 美元。整个项目的标注成本超过 50 万美元。

这说明什么?

专业领域的数据标注,成本可能远超你的 API 费。

成本三:人工兜底成本——真正的大头

一个 AI 功能上线以后,远不是"挂上去就完事"。你还得:

质检和审核。AI 生成的结果有 3-8% 的错误率是正常的。但这些错误你得抓出来,否则用户投诉就完了。

流程编排和优化。AI 的输出不总是一次性完美的,需要加规则、加判断、加降级方案。

人工兜底。总有些 AI 拿不准的情况,需要转给人工。

根据合力亿捷的调研,日均 200-500 会话的 Agent,需要 0.3-0.5 个等效人力来运营。

合力亿捷给了一个 ROI 三笔账框架:

替代人工量:自主解决率 × 人工处理时长

效率增益:响应速度提升、时长覆盖扩展、人工释放效应

质量风险:错误回复率 3-8% 为正常,超过 10% 说明知识库或流程有问题

我们模拟一个数据:

月 Agent 会话数 6000

自主解决率 75%

人工单次处理 6 分钟

月替代人工工时 450 小时 ≈ 2.5 人

月替代人工成本 1.8 万 + 月效率增益 4500 元 − 月运营人力成本 4000 元 = 1.85 万÷(月系统成本 0.8 万 + 月运营人力成本 0.4 万)= 1.54

即每投 1 元产出 1.54 元。

案例:Klarna 的失败

瑞典支付公司 Klarna,2023 年下半年大举推 AI 客服,计划用 AI 替代 700 个人工客服。看起来特别划算对吧?700 个人,平均月工资 4000 块(考虑瑞典人力成本可能更高),一个月省 280 万块。

但一年后呢?他们发现,虽然 AI 确实能自主解决 80% 的简单问题,但剩下 20% 的复杂问题需要人工,而且人工还得帮 AI 擦屁股。最后他们不得不招回 400 人来处理 AI 的错误、做质检、优化流程。

最讽刺的是,他们算错的关键成本项是人工兜底。

初期估算的时候,他们以为"人工兜底就是接个转移,不用多少人"。实际上呢?每个人工处理一条咨询需要 10 分钟(包括理解上文、修正 AI 的理解、重新回复),这 20% 的工作量其实需要接近原来 50% 的人力。加上质检、知识库维护、系统优化,他们需要的总人数其实是原来的 60%,而不是 0%。

成本四:维护迭代成本——看不到尽头的投入

AI 功能不是一次性的。用户的需求在变,业务规则在变,模型也在升级。你得不断地:

更新知识库(内容增删改)

调整 Prompt 和规则

升级模型(从旧模型换新模型)

处理新的业务流程变化

做性能优化和成本优化

根据阿里云的数据,一个企业级的知识库 RAG 系统,初期开发 5-15 万块,但后续每个月的维护和优化成本也得几千到万把块钱。

字节跳动内部用 AI 做内容审核,他们的成本结构就健康得多。

为什么?因为他们从一开始就把成本预期算对了。日均审核 100 万条内容,他们清楚地知道:

AI 自主审核能解决 70% 的明显违规

剩下 30% 需要人工复审,一个人每天 8 小时最多审核 500 条

所以他们需要 100 万 × 30% ÷ 500 ÷ 8 ÷ 21 ≈ 180 个人

再加上 50 个人做知识库维护、规则优化、模型升级

总共需要 230 个人

如果自己全手工做这 100 万条,需要 100 万 ÷ 500 ÷ 8 ÷ 21 ≈ 1200 个人。

所以字节的 AI 方案,省下了 1000 个人,虽然成本不是"节省 100%",但也省了 80%。而且是从一开始就知道自己能省 80%,而不是算错了以为能省 100%,最后幻灭。

小团队的生存法则

如果你是小团队,怎么办?我的建议是:不要一开始就做全自动化,要做"渐进式人工兜底"。

比如你的 AI 客服功能:

第一阶段:先做简单问题的自动回复(FAQ、订单状态等),自主解决率 60%,剩下 40% 转人工。这个阶段你只需要现有客服团队的 40% 继续处理转移过来的问题。成本几乎没增加,就多了 API 费。

第二阶段:等 AI 积累了一些数据和案例以后,开始做中等复杂度的问题。自主解决率上升到 75%,人工工作量降到 25%。这时候你可以裁员 15%。

第三阶段:继续优化,可能能达到 80%。

这样的好处是:你不会被成本结构变化打得措手不及。小团队最怕的就是"AI 很便宜啊才几千块一个月",然后一年以后发现月成本 10 万块,根本负担不起。

总结

算 AI 成本就像算医保。有人只看"医保报销比例"(API 费),觉得"才占 20% 啊,特别便宜"。但真正决定医疗成本的,是"自付额"(人工成本)和"医保外"(维护成本)。

一个看似"成本只有几千块"的 AI 功能,实际的全成本通常是 API 费的 3-5 倍。如果你一开始没算对,后面就得为这个低估的成本预期买单。

Klarna 花了 700 个人和巨大的信誉成本,才学会了这一课。你可以不用这么惨,从现在开始就把成本算清楚:

API 费(最小的一块)

数据标注成本(一次性大投入,或滚动小投入)

人工兜底成本(需要专人长期看守)

维护迭代成本(永无止尽的成本坑)

把这四项加起来,才是 AI 功能的真实成本。

本文来自微信公众号“人人都是产品经理”(ID:woshipm),作者:AI产品经理老猫,36氪经授权发布。

+1
1

好文章,需要你的鼓励

参与评论
评论千万条,友善第一条
后参与讨论
提交评论0/1000

百万用户关注的产品经理学习、分享平台 公众号:woshipm

36氪AI测评

选靠谱AI,看真实评测
查看
36氪AI测评官方交流社区
加入

36氪项目推荐

咨询项目审核和入驻
联系
36氪项目推荐订阅号
关注

下一篇

红利期已经过了。

14分钟前

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

推送和解读前沿、有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业