Guida di approfondimento
Stress test del margine di un wrapper di IA e dei token LLM
Analisi direzionale del settore
Un tempo il software aveva un costo marginale vicino allo zero. Una volta scritto il codice, servire un cliente in più costava pochi centesimi di hosting, ed è per questo che i margini degli abbonamenti dell'ottanta e novanta per cento sono diventati la norma e che gli investitori hanno imparato a ignorare il costo del venduto nel software. I prodotti di IA hanno infranto questa regola. Ogni richiesta di un utente fa ora scattare una fattura del fornitore del modello, e la fattura cresce con quanto fa l'utente, non con quanto paga. Un cliente con un piano fisso da ventiquattro dollari può costare cinque dollari un mese e cinquanta il successivo, se scopre un flusso di lavoro che fa girare il modello in ciclo tutto il giorno.
È questo il problema centrale di un wrapper di IA, un prodotto che aggiunge un'interfaccia e un flusso di lavoro sopra il modello di qualcun altro. Il vostro prezzo è fisso, il vostro costo è variabile e il vostro fornitore può cambiare prezzi o modelli in qualsiasi momento. Il margine che sembrava sano in una demo, dove un fondatore provava una manciata di richieste, può svanire quando arrivano utenti reali con documenti lunghi, contesti ampi e agenti che chiamano il modello venti volte per completare un solo compito. Lo stress test serve a mostrarvi quanto è sottile quel margine prima che arrivi la fattura.
Il modello a domino segue il denaro attraverso cinque fasi. Primo, quanta parte della spesa in token va a utenti che non pagano nulla, perché un piano gratuito è un budget di marketing pagato in token. Secondo, quanta parte dei ricavi consuma la fattura dei modelli. Terzo, il margine lordo che resta dopo modelli e commissioni. Quarto, se i ricavi coprono ogni costo con un po' di margine. Quinto, l'utile. Il cambiamento di una leva, come agenti che ritentano più spesso o un prompt più lungo, sposta prima le prime due caselle e le altre seguono, così potete vedere un problema di margine arrivare un mese prima che compaia nei conti.
L'iceberg mostra ciò che una semplice fattura dei modelli nasconde. Sopra la linea di galleggiamento stanno la fattura dei modelli per gli utenti paganti e l'infrastruttura fissa. Sotto stanno la fattura dei modelli per gli utenti gratuiti, i token bruciati in nuovi tentativi e cicli degli agenti, la moderazione, la registrazione e la valutazione che ogni prodotto serio aggiunge, e le commissioni di pagamento. In molti prodotti di IA, piano gratuito e nuovi tentativi insieme costano più dell'uso degli stessi utenti paganti. Usate il simulatore per trovare il prezzo, il numero di token o il numero di utenti gratuiti al quale il vostro margine crolla, poi decidete se limitare, mettere in cache, instradare o ritoccare i prezzi.
Schema delle formule e della metodologia
Il modello lavora su base mensile. I token per utente sono le richieste per i token per richiesta, aumentati della quota di nuovi tentativi. Gli utenti gratuiti effettuano un quarto delle richieste di un utente pagante. Il prezzo effettivo dei token è il prezzo medio ridotto dello sconto sui token in cache. La fattura dei modelli è i token in milioni per quel prezzo effettivo, con in più un onere di valutazione. L'utile netto è i ricavi da abbonamento meno commissioni, fattura dei modelli, onere di valutazione e infrastruttura fissa.
- Token per utente pagante
- T = richieste × token per richiesta × (1 + nuovi tentativi)
- Il carico mensile di token creato da un utente pagante, compresi nuovi tentativi e cicli degli agenti.
- Prezzo effettivo dei token
- P = prezzo medio × (1 − successo cache × 0,9)
- I token in cache costano circa un decimo, quindi il tasso di successo riduce il prezzo che pagate davvero.
- Fattura dei modelli
- IA = (paganti × T + gratuiti × T × 0,25) × P × 1,08
- Uso a pagamento e gratuito valorizzato al prezzo effettivo, più l'otto per cento per valutazione e registrazione.
- Utile netto
- Netto = paganti × prezzo − commissioni − IA − infrastruttura
- Il risultato mensile. Il punto di rottura è dove arriva a zero.
- Costo del piano gratuito
- F = gratuiti × T × 0,25 × P
- Quanto costano ogni mese in fatture dei modelli gli utenti gratuiti senza pagare nulla.
- Margine lordo
- ML = (ricavi − commissioni − IA) ÷ ricavi
- La quota dei ricavi che resta dopo commissioni e fattura dei modelli, prima dell'infrastruttura fissa.
Elasticità a cascata
I token per richiesta e il prezzo dei token si moltiplicano direttamente nella fattura dei modelli, quindi sono le leve più elastiche: dimezzarne una dimezza la fattura. Gli utenti gratuiti sono il fattore successivo per importanza perché aggiungono costi senza ricavi. Il prezzo per utente è lineare ma potente, poiché solleva tutti gli utenti paganti in una volta. L'infrastruttura fissa agisce come una soglia che il margine deve superare prima che compaia qualunque utile.
Tre casi di studio reali
Avvio con risorse proprie
I primi utenti paganti di un fondatore solitario
Un fondatore solitario lancia un assistente di scrittura con novanta utenti paganti e seicento gratuiti, usando un modello economico e prompt brevi. I numeri sono piccoli, l'hosting è quasi gratuito e l'utile è sottile ma positivo. Caricate il caso per vedere quanto poco spazio abbia un prodotto giovane quando arrivano alcuni utenti molto intensivi.
Crescita nel mercato intermedio
Un prodotto su larga scala con un instradamento intelligente
Un prodotto con novemila utenti paganti indirizza la maggior parte del traffico a un modello economico, mette in cache quasi la metà dell'input e mantiene bassi i nuovi tentativi. La fattura dei modelli è alta in termini assoluti ma è una piccola quota dei ricavi. Caricate il caso per vedere come la disciplina ingegneristica protegga il margine su larga scala.
Crisi da cigno nero
Un agente virale con un prezzo fisso
Un prodotto aggiunge un agente che fa girare in ciclo il modello a ogni compito e un piano gratuito che diventa virale. I token per richiesta triplicano, i nuovi tentativi esplodono e il prezzo resta a dodici dollari. I ricavi crescono mentre ogni nuovo utente approfondisce la perdita. Caricate il caso per vedere quale leva risana il mese.
Matrice dei parametri di riferimento del settore
| Indicatore | Zona di pericolo | Media del settore | Eccellenza (primo 10%) |
|---|---|---|---|
| Fattura dell'IA in percentuale dei ricavi | Sopra il 35% | 15–25% | Sotto il 10% |
| Margine lordo dopo modelli e commissioni | Sotto il 50% | 65–75% | Sopra l'80% |
| Quota dei token spesa per gli utenti gratuiti | Sopra il 50% | 20–35% | Sotto il 15% |
| Tasso di successo della cache dei prompt | Sotto il 10% | 25–40% | Sopra il 60% |
| Onere dei nuovi tentativi e dei cicli degli agenti | Sopra il 40% | 10–20% | Sotto l'8% |
Variabili e leve
Utenti paganti
Clienti con un piano a pagamento in questo mese.
Leva: Fate crescere gli utenti paganti solo quando ciascuno rende più di quanto il modello gli costa, altrimenti la crescita ingrandisce la perdita.
Prezzo per utente al mese
Quanto viene addebitato ogni mese a un utente pagante, al netto degli sconti.
Leva: Passate a un prezzo basato sull'uso o a livelli, così che gli utenti intensivi paghino in proporzione ai token che consumano.
Utenti del piano gratuito
Utenti attivi che usano il prodotto senza pagare.
Leva: Limitate il piano gratuito per numero di richieste, indirizzatelo a un modello più economico o dategli una durata, perché gli utenti gratuiti sono il maggior costo nascosto.
Richieste per utente al mese
Quante chiamate al modello genera in un mese un utente pagante attivo.
Leva: Fissate limiti di uso corretto per ogni piano e mostrate agli utenti i loro consumi, perché una piccola quota di utenti intensivi di solito genera la maggior parte della fattura.
Token per richiesta
Token di input più token di output per una chiamata, compresi il prompt di sistema e il contesto recuperato.
Leva: Accorciate i prompt, riassumete la cronologia e recuperate meno contesto, perché i token per richiesta moltiplicano tutto il resto.
Prezzo medio per milione di token
Prezzo medio che pagate per milione di token sui modelli che utilizzate.
Leva: Indirizzate le richieste semplici ai modelli più piccoli e riservate il modello premium ai casi difficili.
Tasso di successo della cache
Quota dei token di input serviti da una cache, o da una cache dei prompt, con un forte sconto.
Leva: Strutturate i prompt in modo che la lunga parte statica venga per prima e possa essere messa in cache, poi misurate il tasso di successo ogni settimana.
Nuovi tentativi e cicli degli agenti
Token aggiuntivi spesi per chiamate fallite, nuovi tentativi, riflessione e cicli di strumenti.
Leva: Correggete i guasti che innescano i nuovi tentativi e limitate i cicli degli agenti, perché ogni nuovo tentativo è una seconda fattura per la stessa risposta.
Infrastruttura e strumenti fissi
Hosting, database vettoriale, monitoraggio e gli strumenti che circondano il modello.
Leva: Dimensionate l'infrastruttura sugli utenti attuali, perché il costo fisso determina quanto sopravvivete a un mese difficile.
Commissione di pagamento
Percentuale trattenuta dal vostro fornitore di pagamenti sui ricavi da abbonamento.
Leva: Spostate i piani annuali sul bonifico bancario o negoziate le commissioni del processore quando i ricavi sono abbastanza grandi.
Come usare questo simulatore
- 1Partite dalla configurazione realistica o inserite i vostri utenti, il prezzo, i token e il tasso di cache.
- 2Leggete le cinque caselle del domino per vedere se diventano rossi per primi gli utenti gratuiti, la fattura dei modelli o il margine.
- 3Premete Trova il mio punto di rottura per scoprire quale prezzo, numero di token o mix di utenti porta l'utile a zero.
- 4Confrontate il piano attuale con il piano di instradamento e limiti su 24 mesi nella scheda Universo parallelo.
- 5Copiate il link di condivisione così che il vostro team o gli investitori possano aprire lo stesso scenario.
Errori da evitare
- Testare il margine con una manciata di richieste di prova. Gli utenti reali inviano input più lunghi e attivano più chiamate: misurate la media e il dieci per cento di utenti più intensivi con i dati di produzione.
- Offrire un piano illimitato a prezzo fisso. Gli utenti che apprezzano di più l'illimitato sono di solito quelli che costano di più, il che trasforma i vostri clienti migliori nella vostra perdita maggiore.
- Ignorare il piano gratuito nell'economia unitaria. Gli utenti gratuiti costano token ogni mese e raramente compaiono accanto ai ricavi, quindi sono il costo dimenticato più spesso.
- Dare per scontato che il prezzo del fornitore resti fermo. Prezzi e comportamento dei modelli cambiano: mantenete un margine di sicurezza e la possibilità di passare o instradare verso un altro modello.
Domande frequenti
Perché il margine è più difficile per un prodotto di IA che per un normale software?
Ogni richiesta chiama un modello che voi pagate, quindi il costo cresce con l'uso mentre il vostro prezzo resta fisso. Il software normale ha un costo quasi nullo per una richiesta in più.
Che cos'è un token?
Un token è un frammento di testo, all'incirca tre quarti di una parola in inglese. I fornitori fatturano separatamente i token di input e di output, e questo modello usa per semplicità un unico prezzo medio per milione di token.
Come riduce il mio costo la cache?
I fornitori fanno pagare molto meno i token già elaborati in una richiesta recente. Mettere per prime le istruzioni lunghe e ripetute permette di metterle in cache, il che abbassa il prezzo effettivo.
Come devo fissare il prezzo di un prodotto di IA?
Includete una quota d'uso e fate pagare l'uso intensivo, oppure dividete i piani per volume. Un piano fisso illimitato invita a iscriversi proprio gli utenti che costano di più.
Devo eliminare il piano gratuito?
Non necessariamente. Limitatelo per numero di richieste, usate per esso un modello più economico e misurate quanti utenti gratuiti si convertono. Un piano gratuito è un costo di marketing e va messo a budget come tale.
Quanto è accurato?
È un modello didattico di pianificazione con ipotesi dichiarate, non una consulenza finanziaria. Sostituite i valori con i vostri dati d'uso e con i prezzi attuali del vostro fornitore.
Questo è un modello di pianificazione a scopo didattico, con ipotesi dichiarate. Non costituisce consulenza finanziaria, fiscale o legale. Sostituite i dati con le vostre cifre e verificate le decisioni importanti con un professionista qualificato.