Guia aprofundado
Teste de estresse de margem de tokens para wrappers de IA e LLM
Análise executiva do setor
O software costumava ter custo marginal próximo de zero. Depois de escrito o código, atender mais um cliente custava alguns centavos de hospedagem, e foi por isso que margens de assinatura de oitenta e noventa por cento se tornaram a norma e que os investidores aprenderam a ignorar o custo dos produtos vendidos em software. Os produtos de IA quebraram essa regra. Cada requisição de um usuário agora dispara uma cobrança de um provedor de modelos, e a cobrança cresce com o quanto o usuário faz, e não com o que ele paga. Um cliente de um plano fixo de vinte e quatro dólares pode custar cinco dólares em um mês e cinquenta no seguinte, se descobrir um fluxo de trabalho que mantém o modelo em loop o dia inteiro.
Esse é o problema central de um wrapper de IA, um produto que acrescenta uma interface e um fluxo de trabalho sobre o modelo de outra empresa. Seu preço é fixo, seu custo é variável e seu fornecedor pode mudar preços ou modelos a qualquer momento. A margem que parecia saudável em uma demonstração, em que um fundador testou um punhado de requisições, pode desaparecer quando chegam usuários reais com documentos longos, contextos grandes e agentes que chamam o modelo vinte vezes para concluir uma tarefa. O teste de estresse existe para mostrar quão fina é essa margem antes de a fatura chegar.
O modelo de dominó acompanha o dinheiro em cinco etapas. Primeiro, quanto do seu gasto com tokens vai para usuários que não pagam nada, pois um plano gratuito é um orçamento de marketing pago em tokens. Segundo, quanto da receita a conta do modelo consome. Terceiro, a margem bruta que resta depois de modelos e taxas. Quarto, se a receita cobre todos os custos com folga. Quinto, o lucro. Uma mudança em uma alavanca, como agentes que tentam de novo com mais frequência ou um prompt mais longo, move primeiro as duas primeiras caixas e as demais seguem, de modo que você enxerga um problema de margem chegando um mês antes de ele aparecer na contabilidade.
O iceberg mostra o que uma conta simples do modelo esconde. Acima da linha d'água ficam a conta do modelo dos usuários pagantes e a infraestrutura fixa. Abaixo dela ficam a conta do modelo dos usuários gratuitos, os tokens queimados em novas tentativas e loops de agentes, a moderação, os registros e a avaliação que todo produto sério adota, e as taxas de pagamento. Em muitos produtos de IA, o plano gratuito e as novas tentativas somados custam mais do que o uso dos próprios usuários pagantes. Use o simulador para encontrar o preço, a quantidade de tokens ou o número de usuários gratuitos em que a sua margem desmorona e depois decida se vai limitar, usar cache, direcionar ou reajustar o preço.
Fórmulas e metodologia
O modelo trabalha por mês. Os tokens por usuário são as requisições multiplicadas pelos tokens por requisição, acrescidos da parcela de novas tentativas. Os usuários gratuitos fazem um quarto das requisições de um usuário pagante. O preço efetivo do token é o preço médio reduzido pelo desconto dos tokens em cache. A conta do modelo é a quantidade de tokens em milhões multiplicada por esse preço efetivo, com um custo adicional de avaliação por cima. O lucro líquido é a receita de assinaturas menos as taxas, a conta do modelo, o custo adicional e a infraestrutura fixa.
- Tokens por usuário pagante
- T = requisições × tokens por requisição × (1 + novas tentativas)
- A carga mensal de tokens que um usuário pagante cria, incluindo novas tentativas e loops de agentes.
- Preço efetivo do token
- P = preço médio × (1 − acerto do cache × 0,9)
- Os tokens em cache custam cerca de um décimo, de modo que a taxa de acerto reduz o preço que você realmente paga.
- Conta do modelo
- IA = (pagantes × T + gratuitos × T × 0,25) × P × 1,08
- Uso pago e gratuito precificado à taxa efetiva, mais oito por cento de avaliação e registros.
- Lucro líquido
- Líquido = pagantes × preço − taxas − IA − infraestrutura
- O resultado mensal. O ponto de ruptura é onde ele chega a zero.
- Custo do plano gratuito
- G = gratuitos × T × 0,25 × P
- O que os usuários gratuitos custam em contas de modelo a cada mês sem pagar nada.
- Margem bruta
- MB = (receita − taxas − IA) ÷ receita
- A parcela da receita que sobra depois das taxas e da conta do modelo, antes da infraestrutura fixa.
Elasticidade em cascata
Os tokens por requisição e o preço do token se multiplicam diretamente na conta do modelo, por isso são as alavancas mais elásticas: reduzir qualquer um deles à metade reduz a conta à metade. Os usuários gratuitos são o fator seguinte, pois acrescentam custo sem receita. O preço por usuário é linear, mas poderoso, já que eleva todos os usuários pagantes de uma vez. A infraestrutura fixa age como um limiar que a margem precisa superar antes que apareça qualquer lucro.
Três estudos de caso reais
Início com recursos próprios
Os primeiros usuários pagantes de um fundador solo
Um fundador solo lança um assistente de escrita com noventa usuários pagantes e seiscentos gratuitos, usando um modelo barato e prompts curtos. Os números são pequenos, a hospedagem é quase gratuita e o lucro é fino, mas positivo. Carregue o caso para ver quão pouca folga tem um produto jovem quando chegam alguns usuários intensivos.
Médio porte em expansão
Um produto em escala com roteamento inteligente
Um produto com nove mil usuários pagantes direciona a maior parte do tráfego a um modelo barato, coloca em cache quase metade da entrada e mantém baixas as novas tentativas. A conta do modelo é grande em termos absolutos, mas representa uma pequena parcela da receita. Carregue o caso para ver como a disciplina de engenharia protege a margem em escala.
Crise de cisne negro
Um agente viral com preço fixo
Um produto acrescenta um agente que mantém o modelo em loop a cada tarefa e um plano gratuito que viraliza. Os tokens por requisição triplicam, as novas tentativas explodem e o preço continua em doze dólares. A receita cresce enquanto cada novo usuário aprofunda o prejuízo. Carregue o caso para ver qual alavanca recupera o mês.
Matriz de referências do setor
| Métrica | Zona de perigo | Média do setor | Elite dos 10% melhores |
|---|---|---|---|
| Conta de IA como parcela da receita | Acima de 35% | 15–25% | Abaixo de 10% |
| Margem bruta depois de modelos e taxas | Abaixo de 50% | 65–75% | Acima de 80% |
| Parcela dos tokens gasta com usuários gratuitos | Acima de 50% | 20–35% | Abaixo de 15% |
| Taxa de acerto do cache de prompt | Abaixo de 10% | 25–40% | Acima de 60% |
| Custo adicional de novas tentativas e loops de agentes | Acima de 40% | 10–20% | Abaixo de 8% |
Variáveis e alavancas
Usuários pagantes
Clientes de um plano pago neste mês.
Alavanca: Faça crescer os usuários pagantes somente quando cada um render mais do que o modelo custa por ele; do contrário, o crescimento aumenta o prejuízo.
Preço por usuário por mês
O que um usuário pagante paga por mês, depois de descontos.
Alavanca: Passe para um preço por uso ou em níveis, de modo que os usuários intensivos paguem em proporção aos tokens que consomem.
Usuários do plano gratuito
Usuários ativos que usam o produto sem pagar.
Alavanca: Limite o plano gratuito por requisições, direcione-o a um modelo mais barato ou dê-lhe prazo, pois os usuários gratuitos são o maior custo oculto.
Requisições por usuário por mês
Quantas chamadas ao modelo um usuário pagante ativo dispara em um mês.
Alavanca: Defina limites de uso justo por plano e mostre aos usuários o seu consumo, já que uma pequena parcela de usuários intensivos costuma gerar a maior parte da conta.
Tokens por requisição
Tokens de entrada mais tokens de saída de uma chamada, incluindo o prompt do sistema e o contexto recuperado.
Alavanca: Enxugue os prompts, resuma o histórico e recupere menos contexto, porque os tokens por requisição multiplicam todo o resto.
Preço médio ponderado por milhão de tokens
Preço médio que você paga por milhão de tokens entre os modelos que utiliza.
Alavanca: Direcione as requisições fáceis a modelos menores e reserve o modelo premium para os casos difíceis.
Taxa de acerto do cache
Parcela dos tokens de entrada atendida a partir de um cache ou de um cache de prompt com forte desconto.
Alavanca: Estruture os prompts de modo que a parte estática e longa venha primeiro e possa ser colocada em cache, e meça a taxa de acerto toda semana.
Novas tentativas e loops de agentes
Tokens extras gastos em chamadas com falha, novas tentativas, reflexão e loops de ferramentas.
Alavanca: Corrija as falhas que provocam novas tentativas e limite os loops de agentes, porque cada nova tentativa é uma segunda conta pela mesma resposta.
Infraestrutura e ferramentas fixas
Hospedagem, banco de dados vetorial, monitoramento e as ferramentas em torno do modelo.
Alavanca: Dimensione a infraestrutura de acordo com os usuários atuais, porque o custo fixo define por quanto tempo você sobrevive a um mês ruim.
Taxa de pagamento
Porcentagem retida pelo seu provedor de pagamentos sobre a receita de assinaturas.
Alavanca: Leve os planos anuais para transferência bancária ou negocie as taxas do processador quando a receita for grande o bastante.
Como usar este simulador
- 1Comece pela predefinição realista ou informe seus próprios usuários, preço, tokens e taxa de cache.
- 2Leia as cinco caixas do dominó para ver se os usuários gratuitos, a conta do modelo ou a margem ficam vermelhos primeiro.
- 3Pressione Encontrar meu ponto de ruptura para saber qual preço, quantidade de tokens ou combinação de usuários leva o lucro a zero.
- 4Compare o plano atual com o plano de roteamento e limites ao longo de 24 meses na aba Universo paralelo.
- 5Copie o link de compartilhamento para que sua equipe ou seus investidores abram o mesmo cenário.
Erros a evitar
- Testar a margem com um punhado de requisições de demonstração. Os usuários reais enviam entradas mais longas e disparam mais chamadas, então meça a média e os dez por cento mais intensivos com dados de produção.
- Oferecer um plano ilimitado a preço fixo. Os usuários que mais valorizam o ilimitado costumam ser os que mais custam, o que transforma seus melhores clientes em seu maior prejuízo.
- Ignorar o plano gratuito na economia unitária. Os usuários gratuitos custam tokens todos os meses e raramente aparecem ao lado da receita, por isso são o custo mais esquecido.
- Supor que o preço do seu provedor vai se manter. Preços e comportamento dos modelos mudam, então mantenha uma folga de margem e a capacidade de trocar ou direcionar para outro modelo.
Perguntas frequentes
Por que a margem é mais difícil em um produto de IA do que em um software comum?
Cada requisição chama um modelo pelo qual você paga, de modo que o custo cresce com o uso enquanto o seu preço continua fixo. Em um software comum, o custo de mais uma requisição é quase zero.
O que é um token?
Um token é um pedaço de texto, aproximadamente três quartos de uma palavra em inglês. Os provedores cobram separadamente os tokens de entrada e de saída, e este modelo usa um único preço médio por milhão de tokens por simplicidade.
Como o cache reduz o meu custo?
Os provedores cobram muito menos pelos tokens que já processaram em uma requisição recente. Colocar primeiro instruções longas e repetidas permite que elas sejam colocadas em cache, o que reduz o preço efetivo.
Como devo precificar um produto de IA?
Inclua uma franquia de uso e cobre pelo uso intenso, ou organize os planos em níveis por volume. Um plano ilimitado de preço fixo faz com que os usuários que mais custam sejam justamente os que se inscrevem.
Devo acabar com o plano gratuito?
Não necessariamente. Limite-o por requisições, use um modelo mais barato para ele e meça quantos usuários gratuitos se convertem. Um plano gratuito é um custo de marketing e deve ser orçado como tal.
Qual é a precisão disto?
É um modelo educacional de planejamento com premissas declaradas, e não aconselhamento financeiro. Substitua os valores pelos seus próprios dados de uso e pelos preços atuais do seu provedor.
Este é um modelo educacional de planejamento, com premissas declaradas. Não constitui aconselhamento financeiro, tributário ou jurídico. Substitua os dados pelos seus próprios números e confirme decisões importantes com um profissional qualificado.