深度指南
AI 套壳产品与 LLM 令牌利润率压力测试
行业管理层分析
软件过去的边际成本几乎为零。代码一旦写好,多服务一位客户只需几分钱的托管费,这就是订阅制的利润率能达到百分之八十、九十成为常态的原因,也是投资者学会忽略软件商品成本的原因。AI 产品打破了这条规则。用户发出的每一次请求,现在都会触发模型提供商的一笔账单,而这笔账单随用户的使用量而增长,与他们支付的价格无关。一位使用24美元固定套餐的客户,这个月可能花掉您5美元,下个月如果发现了一个让模型整天循环的工作流,就可能花掉50美元。
这就是 AI 套壳产品的核心问题:在别人的模型之上添加界面和工作流的产品。您的价格是固定的,成本是可变的,而您的供应商可以随时调整价格或模型。在演示中看起来健康的利润率(创始人只测试了寥寥几次请求),当真实用户带着长文档、大上下文,以及为完成一项任务要调用模型二十次的智能体到来时,可能会消失殆尽。压力测试的意义,就是在账单到来之前,向您展示这个利润率有多薄。
多米诺模型沿着五个阶段追踪资金的去向。第一,您的令牌支出中有多少流向了不付费的用户,因为免费套餐就是用令牌支付的营销预算。第二,模型账单消耗了多少收入。第三,扣除模型和手续费后剩下的毛利率。第四,收入是否有富余地覆盖了所有成本。第五,利润。只要有一个杠杆发生变化,例如智能体更频繁地重试或提示词变长,首先移动的就是前两个框,其余的随之而来,因此您可以在问题反映到账目上的一个月之前,就看到利润率问题正在逼近。
冰山图展示了单纯的模型账单所掩盖的东西。水面之上是付费用户的模型账单和固定基础设施。水面之下是免费用户的模型账单、消耗在重试和智能体循环上的令牌、每个正规产品都要增加的审核、日志和评估,以及支付手续费。在许多 AI 产品中,免费套餐和重试加起来的成本,超过了付费用户自身的使用成本。请用模拟器找出使您的利润率崩溃的价格、令牌数或免费用户数,然后决定是设限、缓存、路由,还是重新定价。
公式与方法论蓝图
该模型按月计算。每位用户的令牌数等于请求数乘以每次请求的令牌数,再按重试比例增加。免费用户的请求量是付费用户的四分之一。有效令牌价格是综合价格减去缓存令牌的折扣。模型账单等于以百万计的令牌数乘以该有效价格,再加上评估开销。净利润等于订阅收入减去手续费、模型账单、开销和固定基础设施。
- 每位付费用户的令牌数
- T = 请求数 × 每次请求令牌数 × (1 + 重试)
- 一位付费用户每月产生的令牌负载,包括重试和智能体循环。
- 有效令牌价格
- P = 综合价格 × (1 − 缓存命中 × 0.9)
- 缓存令牌的成本约为十分之一,因此命中率会降低您实际支付的价格。
- 模型账单
- AI = (付费 × T + 免费 × T × 0.25) × P × 1.08
- 付费与免费用量按有效价格计价,再加上百分之八用于评估和日志。
- 净利润
- 净额 = 付费 × 价格 − 手续费 − AI − 基础设施
- 月度结果。临界点就是该值达到零的位置。
- 免费套餐成本
- F = 免费 × T × 0.25 × P
- 免费用户在不付任何费用的情况下,每月产生的模型账单。
- 毛利率
- GM = (收入 − 手续费 − AI) ÷ 收入
- 扣除手续费和模型账单之后、扣除固定基础设施之前,剩余收入所占的比例。
层层传导的弹性
每次请求的令牌数和令牌价格直接相乘进入模型账单,所以它们是弹性最大的杠杆:任何一个减半,账单就减半。免费用户是下一个最大的因素,因为他们增加了成本却没有收入。每位用户的价格是线性的,但威力很大,因为它同时抬高了每一位付费用户的收入。固定基础设施相当于一道门槛,利润率必须先越过它,才会出现任何利润。
三个真实案例研究
白手起家的初创者
独立创始人的第一批付费用户
一位独立创始人推出了一款写作助手,有九十位付费用户和六百位免费用户,使用便宜的模型和较短的提示词。数字很小,托管几乎免费,利润微薄但为正。加载这个案例,可以看到当几位重度用户出现时,一个年轻的产品几乎没有任何缓冲空间。
处于扩张期的中型市场企业
采用智能路由的规模化产品
一款有九千位付费用户的产品,把大部分流量路由到便宜的模型,缓存了近一半的输入,并将重试保持在较低水平。模型账单的绝对金额很大,但只占收入的一小部分。加载这个案例,可以看到工程上的严谨如何在规模化之后保护利润率。
黑天鹅危机
价格固定的爆红智能体
一款产品加入了一个对每项任务都循环调用模型的智能体,以及一个走红的免费套餐。每次请求的令牌数翻了三倍,重试暴增,而价格仍停留在12美元。收入在增长,但每增加一位新用户,亏损就加深一分。加载这个案例,可以看到哪个杠杆能让当月恢复盈利。
行业基准矩阵
| 指标 | 危险区 | 行业平均 | 前 10% 的佼佼者 |
|---|---|---|---|
| AI 账单占收入的比例 | 高于35% | 15–25% | 低于10% |
| 扣除模型和手续费后的毛利率 | 低于50% | 65–75% | 高于80% |
| 花在免费用户身上的令牌占比 | 高于50% | 20–35% | 低于15% |
| 提示词缓存命中率 | 低于10% | 25–40% | 高于60% |
| 重试和智能体循环的额外开销 | 高于40% | 10–20% | 低于8% |
变量与杠杆
付费用户
本月使用付费套餐的客户。
杠杆: 只有当每位付费用户带来的收入超过模型给他们产生的成本时,才去扩大付费用户数,否则增长只会让亏损更大。
每位用户每月价格
付费用户每月被收取的费用,已扣除折扣。
杠杆: 转向按用量计费或分层定价,让重度用户按他们消耗的令牌比例付费。
免费套餐用户
不付费使用产品的活跃用户。
杠杆: 按请求数为免费套餐设限、将其导向更便宜的模型,或设置时间限制,因为免费用户是最大的隐性成本。
每位用户每月请求数
一位活跃付费用户每月触发多少次模型调用。
杠杆: 为每个套餐设定合理使用上限并向用户展示他们的用量,因为一小部分重度用户通常产生了大部分账单。
每次请求的令牌数
一次调用的输入与输出令牌之和,包括系统提示词和检索到的上下文。
杠杆: 精简提示词、总结历史记录并减少检索的上下文,因为每次请求的令牌数会放大其他所有因素。
每百万令牌的综合价格
您所使用的各个模型每百万令牌的平均价格。
杠杆: 把简单的请求路由到较小的模型,只在困难的场景中使用高端模型。
缓存命中率
由缓存或提示词缓存以大幅折扣提供的输入令牌所占比例。
杠杆: 构造提示词时,让冗长的静态部分排在前面以便缓存,然后每周测量命中率。
重试与智能体循环
花在失败调用、重试、反思和工具循环上的额外令牌。
杠杆: 修复引发重试的故障并限制智能体循环,因为每一次重试都是对同一个答案的第二次付费。
固定基础设施与工具
托管、向量数据库、监控以及围绕模型的各种工具。
杠杆: 按当前用户规模调整基础设施,因为固定成本决定了您能撑过一个糟糕月份的时间。
支付手续费
支付服务商从订阅收入中扣留的百分比。
杠杆: 当收入大到一定程度后,把年度套餐转为银行转账,或与支付处理商协商手续费。
如何使用本模拟器
- 1从“现实”预设开始,或输入您自己的用户数、价格、令牌数和缓存率。
- 2查看五个多米诺框,看看是免费用户、模型账单还是利润率先变红。
- 3点击“找出我的临界点”,了解哪种价格、令牌数或用户构成会把利润推到零。
- 4在“平行宇宙”标签页中,将当前方案与路由及上限方案在24个月内进行比较。
- 5复制分享链接,让您的团队或投资者可以打开同一个情景。
应避免的错误
- 用寥寥几次演示请求来测试利润率。真实用户会发送更长的输入并触发更多调用,因此请根据生产数据衡量平均值以及最重的百分之十用户。
- 以固定价格提供无限量套餐。最看重无限量的用户通常正是成本最高的用户,这会把您最好的客户变成您最大的亏损。
- 在单位经济中忽略免费套餐。免费用户每月都消耗令牌,却很少与收入并列出现,因此是最容易被遗忘的成本。
- 假定服务商的价格会保持不变。价格和模型行为都会变化,所以请保留利润缓冲,并保持切换或路由到其他模型的能力。
常见问题
为什么 AI 产品的利润率比普通软件更难保住?
每一次请求都要调用一个您需要付费的模型,所以成本随用量增长,而您的价格保持不变。普通软件多处理一次请求的成本几乎为零。
什么是令牌?
令牌是一段文本,在英语中大约相当于四分之三个单词。服务商对输入和输出令牌分别计费,而为了简化,本模型使用每百万令牌一个综合价格。
缓存如何降低我的成本?
对于在最近一次请求中已经处理过的令牌,服务商收取的费用要低得多。把冗长且重复的指令放在前面,就能被缓存,从而降低有效价格。
我应该如何为 AI 产品定价?
包含一定的用量额度,并对重度使用收费,或按用量对套餐分层。固定价格的无限量套餐,会吸引成本最高的用户前来注册。
我应该取消免费套餐吗?
不一定。按请求数限制它,为它使用更便宜的模型,并衡量有多少免费用户转化为付费。免费套餐是一项营销成本,应当像营销成本一样列入预算。
这有多准确?
这是一个带有明确假设的教学规划模型,不构成财务建议。请用您自己的用量数据和服务商当前的价格替换输入。
这是一个带有明确假设的教育性规划模型,不构成财务、税务或法律建议。请将输入替换为您自己的数据,并就重要决策咨询合格的专业人士。