Pogłębiony poradnik
Test warunków skrajnych marży: aplikacja nakładkowa na AI i koszt tokenów LLM
Analiza branży dla zarządu
Oprogramowanie miało kiedyś koszt krańcowy bliski zera. Po napisaniu kodu obsługa jednego dodatkowego klienta kosztowała kilka centów hostingu, dlatego marże subskrypcji na poziomie osiemdziesięciu i dziewięćdziesięciu procent stały się normą, a inwestorzy nauczyli się ignorować koszt własny sprzedaży w oprogramowaniu. Produkty AI złamały tę regułę. Każde zapytanie użytkownika uruchamia teraz rachunek od dostawcy modelu, a rachunek rośnie wraz z tym, ile użytkownik robi, a nie z tym, ile płaci. Klient na płaskim planie za dwadzieścia cztery dolary może kosztować pięć dolarów jednego miesiąca i pięćdziesiąt następnego, jeśli odkryje przepływ pracy, który przez cały dzień zapętla model.
To centralny problem aplikacji nakładkowej na AI, czyli produktu, który dodaje interfejs i przepływ pracy na cudzym modelu. Twoja cena jest stała, koszt zmienny, a dostawca może w każdej chwili zmienić ceny lub modele. Marża, która wyglądała zdrowo w demonstracji, gdy jeden założyciel przetestował kilka zapytań, może zniknąć, kiedy pojawią się prawdziwi użytkownicy z długimi dokumentami, dużym kontekstem i agentami, którzy wywołują model dwadzieścia razy, by zakończyć jedno zadanie. Test warunków skrajnych pokazuje, jak cienka jest ta marża, zanim nadejdzie faktura.
Model domina śledzi pieniądze przez pięć etapów. Po pierwsze, jaka część wydatków na tokeny trafia do użytkowników, którzy nic nie płacą, bo plan darmowy to budżet marketingowy opłacany w tokenach. Po drugie, jaką część przychodu pochłania rachunek za modele. Po trzecie, marża brutto, która zostaje po modelach i opłatach. Po czwarte, czy przychód pokrywa wszystkie koszty z zapasem. Po piąte, zysk. Zmiana jednej dźwigni, takiej jak częstsze ponowne próby agentów lub dłuższy prompt, porusza najpierw dwa pierwsze pola, a reszta idzie za nimi, więc problem z marżą widać na miesiąc przed pojawieniem się go w księgach.
Góra lodowa pokazuje, co kryje prosty rachunek za modele. Nad linią wody znajdują się rachunek za modele dla płacących użytkowników i stała infrastruktura. Pod nią są rachunek za modele dla użytkowników darmowych, tokeny spalone na ponowne próby i pętle agentów, moderacja, logowanie i ewaluacja, które dodaje każdy poważny produkt, oraz opłaty płatnicze. W wielu produktach AI plan darmowy i ponowne próby razem kosztują więcej niż samo użycie przez płacących użytkowników. Użyj symulatora, aby znaleźć cenę, liczbę tokenów lub liczbę użytkowników darmowych, przy której marża się załamuje, a następnie zdecyduj, czy ograniczyć, buforować, kierować do innych modeli, czy zmienić cennik.
Wzory i założenia metodyczne
Model działa w skali miesiąca. Tokeny na użytkownika to zapytania razy tokeny na zapytanie, zwiększone o udział ponownych prób. Użytkownicy darmowi generują jedną czwartą zapytań płacącego użytkownika. Efektywna cena tokenu to cena uśredniona pomniejszona o zniżkę na tokeny z bufora. Rachunek za modele to tokeny w milionach razy ta efektywna cena, z narzutem na ewaluację. Zysk netto to przychód z subskrypcji minus opłaty, rachunek za modele, narzut i stała infrastruktura.
- Tokeny na płacącego użytkownika
- T = zapytania × tokeny na zapytanie × (1 + ponowne próby)
- Miesięczne obciążenie tokenami, które tworzy jeden płacący użytkownik, wraz z ponownymi próbami i pętlami agentów.
- Efektywna cena tokenu
- P = cena uśredniona × (1 − trafienia bufora × 0,9)
- Tokeny z bufora kosztują około jednej dziesiątej, więc wskaźnik trafień obniża cenę, którą faktycznie płacisz.
- Rachunek za modele
- AI = (płacący × T + darmowi × T × 0,25) × P × 1,08
- Użycie płacących i darmowych wycenione po stawce efektywnej, plus osiem procent na ewaluację i logowanie.
- Zysk netto
- Wynik = płacący × cena − opłaty − AI − infrastruktura
- Wynik miesięczny. Punkt krytyczny to miejsce, w którym spada do zera.
- Koszt planu darmowego
- F = darmowi × T × 0,25 × P
- Ile użytkownicy darmowi kosztują co miesiąc w rachunkach za modele, nic nie płacąc.
- Marża brutto
- GM = (przychód − opłaty − AI) ÷ przychód
- Część przychodu, która zostaje po opłatach i rachunku za modele, przed stałą infrastrukturą.
Kaskadowa elastyczność
Tokeny na zapytanie i cena tokenu mnożą się bezpośrednio w rachunek za modele, więc są najbardziej elastycznymi dźwigniami: zmniejszenie któregokolwiek o połowę zmniejsza rachunek o połowę. Użytkownicy darmowi to kolejny największy czynnik, bo dodają koszt bez przychodu. Cena za użytkownika jest liniowa, ale silna, ponieważ podnosi wszystkich płacących naraz. Stała infrastruktura działa jak próg, który marża musi pokonać, zanim pojawi się jakikolwiek zysk.
Trzy rzeczywiste studia przypadku
Start na własnych środkach
Pierwsi płacący użytkownicy samotnego założyciela
Samotny założyciel uruchamia asystenta pisania z dziewięćdziesięcioma płacącymi użytkownikami i sześciuset darmowymi, używając taniego modelu i krótkich promptów. Liczby są małe, hosting prawie darmowy, a zysk cienki, ale dodatni. Załaduj ten przykład, aby zobaczyć, jak mało miejsca ma młody produkt, gdy pojawi się kilku intensywnych użytkowników.
Skalowanie w średniej firmie
Produkt w dużej skali z inteligentnym kierowaniem
Produkt z dziewięcioma tysiącami płacących użytkowników kieruje większość ruchu do taniego modelu, buforuje prawie połowę wejścia i utrzymuje niskie ponowne próby. Rachunek za modele jest duży w liczbach bezwzględnych, ale stanowi mały ułamek przychodu. Załaduj ten przykład, aby zobaczyć, jak dyscyplina inżynieryjna chroni marżę w dużej skali.
Kryzys typu czarny łabędź
Wirusowy agent przy płaskiej cenie
Produkt dodaje agenta, który zapętla model przy każdym zadaniu, oraz plan darmowy, który staje się wirusowy. Tokeny na zapytanie potrajają się, ponowne próby eksplodują, a cena zostaje na poziomie dwunastu dolarów. Przychód rośnie, podczas gdy każdy nowy użytkownik pogłębia stratę. Załaduj ten przykład, aby zobaczyć, która dźwignia ratuje miesiąc.
Macierz wskaźników branżowych
| Wskaźnik | Strefa zagrożenia | Średnia branżowa | Czołowe 10% najlepszych |
|---|---|---|---|
| Rachunek za AI jako udział przychodu | Powyżej 35% | 15–25% | Poniżej 10% |
| Marża brutto po modelach i opłatach | Poniżej 50% | 65–75% | Powyżej 80% |
| Udział tokenów zużytych na użytkowników darmowych | Powyżej 50% | 20–35% | Poniżej 15% |
| Wskaźnik trafień bufora promptów | Poniżej 10% | 25–40% | Powyżej 60% |
| Narzut ponownych prób i pętli agentów | Powyżej 40% | 10–20% | Poniżej 8% |
Zmienne i dźwignie
Płacący użytkownicy
Klienci na płatnym planie w tym miesiącu.
Dźwignia: Zwiększaj liczbę płacących użytkowników tylko wtedy, gdy każdy z nich zarabia więcej, niż kosztuje go model, w przeciwnym razie wzrost powiększa stratę.
Cena za użytkownika miesięcznie
Kwota naliczana płacącemu użytkownikowi co miesiąc, po rabatach.
Dźwignia: Przejdź na cennik oparty na zużyciu lub progowy, aby intensywni użytkownicy płacili proporcjonalnie do zużywanych tokenów.
Użytkownicy planu darmowego
Aktywni użytkownicy, którzy korzystają z produktu bez płacenia.
Dźwignia: Ogranicz plan darmowy liczbą zapytań, kieruj go do tańszego modelu lub ogranicz czasowo, bo użytkownicy darmowi to największy ukryty koszt.
Zapytania na użytkownika miesięcznie
Ile wywołań modelu uruchamia w miesiącu aktywny płacący użytkownik.
Dźwignia: Ustal limity rozsądnego użycia dla każdego planu i pokazuj użytkownikom ich zużycie, ponieważ niewielka grupa intensywnych użytkowników zwykle generuje większość rachunku.
Tokeny na zapytanie
Tokeny wejściowe plus wyjściowe jednego wywołania, wraz z promptem systemowym i pobranym kontekstem.
Dźwignia: Skracaj prompty, streszczaj historię i pobieraj mniej kontekstu, bo liczba tokenów na zapytanie mnoży wszystko inne.
Uśredniona cena za milion tokenów
Średnia cena, jaką płacisz za milion tokenów w używanych modelach.
Dźwignia: Kieruj proste zapytania do mniejszych modeli, a model premium zachowaj na trudne przypadki.
Wskaźnik trafień bufora
Część tokenów wejściowych obsługiwanych z bufora lub bufora promptów ze znaczną zniżką.
Dźwignia: Układaj prompty tak, aby długa, stała część stała na początku i mogła być buforowana, a następnie mierz wskaźnik trafień co tydzień.
Ponowne próby i pętle agentów
Dodatkowe tokeny zużyte na nieudane wywołania, ponowne próby, refleksję i pętle narzędzi.
Dźwignia: Naprawiaj błędy, które wywołują ponowne próby, i ogranicz pętle agentów, ponieważ każda ponowna próba to drugi rachunek za tę samą odpowiedź.
Stała infrastruktura i narzędzia
Hosting, baza wektorowa, monitoring i narzędzia wokół modelu.
Dźwignia: Dopasuj infrastrukturę do obecnej liczby użytkowników, bo koszt stały określa, jak długo przetrwasz zły miesiąc.
Opłata płatnicza
Procent zatrzymywany przez operatora płatności od przychodów z subskrypcji.
Dźwignia: Przenieś plany roczne na przelew bankowy lub wynegocjuj opłaty operatora płatności, gdy przychód będzie wystarczająco duży.
Jak korzystać z tego symulatora
- 1Zacznij od realistycznego ustawienia wstępnego lub wpisz własnych użytkowników, cenę, tokeny i wskaźnik buforowania.
- 2Przeczytaj pięć pól efektu domina, aby zobaczyć, czy użytkownicy darmowi, rachunek za modele czy marża zaczerwienią się pierwsze.
- 3Naciśnij „Znajdź mój punkt krytyczny”, aby dowiedzieć się, jaka cena, liczba tokenów lub struktura użytkowników sprowadza zysk do zera.
- 4Porównaj obecny plan z planem kierowania i limitów w horyzoncie 24 miesięcy w zakładce Wszechświat równoległy.
- 5Skopiuj link do udostępnienia, aby Twój zespół lub inwestorzy mogli otworzyć ten sam scenariusz.
Błędy, których należy unikać
- Testowanie marży na kilku zapytaniach demonstracyjnych. Prawdziwi użytkownicy wysyłają dłuższe dane wejściowe i wywołują więcej zapytań, więc mierz średnią i najbardziej intensywne dziesięć procent użytkowników na danych produkcyjnych.
- Oferowanie planu bez limitów po stałej cenie. Użytkownicy, którzy najbardziej cenią brak limitów, to zwykle ci, którzy kosztują najwięcej, co zamienia Twoich najlepszych klientów w Twoją największą stratę.
- Pomijanie planu darmowego w rachunku jednostkowym. Użytkownicy darmowi kosztują tokeny co miesiąc i rzadko pojawiają się obok przychodu, więc to koszt najczęściej zapominany.
- Zakładanie, że ceny dostawcy się nie zmienią. Ceny i zachowanie modeli się zmieniają, dlatego zachowaj bufor marży i możliwość przejścia na inny model lub kierowania do niego.
Najczęściej zadawane pytania
Dlaczego marża jest trudniejsza dla produktu AI niż dla zwykłego oprogramowania?
Każde zapytanie wywołuje model, za który płacisz, więc koszt rośnie wraz z użyciem, a Twoja cena pozostaje stała. Zwykłe oprogramowanie ma niemal zerowy koszt kolejnego zapytania.
Czym jest token?
Token to fragment tekstu, w angielskim mniej więcej trzy czwarte słowa. Dostawcy rozliczają tokeny wejściowe i wyjściowe osobno, a ten model dla uproszczenia używa jednej uśrednionej ceny za milion tokenów.
Jak buforowanie obniża mój koszt?
Dostawcy pobierają znacznie mniej za tokeny, które już przetworzyli w niedawnym zapytaniu. Umieszczenie długich, powtarzalnych instrukcji na początku pozwala je buforować, co obniża efektywną cenę.
Jak wyceniać produkt AI?
Uwzględnij limit użycia w cenie i pobieraj opłatę za intensywne użycie albo różnicuj plany według wolumenu. Płaski plan bez limitów sprawia, że zapisują się właśnie użytkownicy, którzy kosztują najwięcej.
Czy zrezygnować z planu darmowego?
Niekoniecznie. Ogranicz go liczbą zapytań, użyj dla niego tańszego modelu i mierz, ilu użytkowników darmowych przechodzi na płatny plan. Plan darmowy to koszt marketingowy i należy go budżetować jak koszt marketingowy.
Jak dokładne jest to narzędzie?
To edukacyjny model planowania z podanymi założeniami, a nie porada finansowa. Zastąp dane własnymi danymi o użyciu i aktualnymi cenami swojego dostawcy.
To edukacyjny model planistyczny oparty na jawnie podanych założeniach. Nie stanowi porady finansowej, podatkowej ani prawnej. Należy zastąpić dane wejściowe własnymi liczbami, a ważne decyzje skonsultować z wykwalifikowanym specjalistą.