Derinlemesine rehber
AI Wrapper ve LLM Token Marj Stres Testi
Yönetici sektör analizi
Yazılımın marjinal maliyeti eskiden sıfıra yakındı. Kod yazıldıktan sonra bir müşteriye daha hizmet vermek birkaç kuruş barındırmaya mal olurdu; abonelik marjlarının yüzde seksen, doksan olması normal sayılması ve yatırımcıların yazılımda satılan malın maliyetini görmezden gelmeyi öğrenmesi bu yüzdendi. Yapay zekâ ürünleri bu kuralı bozdu. Bir kullanıcının yaptığı her istek artık bir model sağlayıcısından fatura tetikler ve fatura, kullanıcının ne ödediğine değil ne kadar iş yaptığına göre büyür. Sabit yirmi dört dolarlık bir plandaki müşteri bir ay beş dolara, ertesi ay modeli gün boyu döngüye sokan bir iş akışı bulursa elli dolara mal olabilir.
Bu, bir AI wrapper'ın, yani başkasının modeli üzerine arayüz ve iş akışı ekleyen bir ürünün temel sorunudur. Fiyatınız sabit, maliyetiniz değişken ve tedarikçiniz fiyatlarını ya da modellerini istediği zaman değiştirebilir. Bir kurucunun bir avuç isteği denediği demoda sağlıklı görünen marj, gerçek kullanıcılar uzun belgeler, büyük bağlamlar ve tek bir görevi bitirmek için modeli yirmi kez çağıran ajanlarla geldiğinde kaybolabilir. Stres testi, faturanız gelmeden bu marjın ne kadar ince olduğunu göstermek için vardır.
Domino modeli parayı beş aşamada izler. Birincisi, token harcamanızın ne kadarının hiç ödemeyen kullanıcılara gittiği; çünkü ücretsiz katman, token ile ödenen bir pazarlama bütçesidir. İkincisi, model faturasının gelirin ne kadarını yediği. Üçüncüsü, modeller ve komisyonlardan sonra kalan brüt marj. Dördüncüsü, gelirin tüm maliyetleri pay bırakarak karşılayıp karşılamadığı. Beşincisi kâr. Daha sık yeniden deneyen ajanlar ya da daha uzun bir istem gibi tek bir kaldıraçtaki değişiklik önce ilk iki kutuyu oynatır, gerisi onları izler; böylece marj sorununu hesaplarda görünmeden bir ay önce fark edebilirsiniz.
Buzdağı, basit bir model faturasının gizlediğini gösterir. Su çizgisinin üstünde ödeyen kullanıcıların model faturası ve sabit altyapı durur. Altında ücretsiz kullanıcıların model faturası, yeniden denemelerde ve ajan döngülerinde yanan token'lar, her ciddi ürünün eklediği denetim, kayıt ve değerlendirme ile ödeme komisyonları vardır. Pek çok yapay zekâ ürününde ücretsiz katman ve yeniden denemeler birlikte, ödeyen kullanıcıların kendi kullanımından daha pahalıdır. Marjınızın çöktüğü fiyatı, token sayısını ya da ücretsiz kullanıcı sayısını bulmak için simülatörü kullanın; sonra sınırlamaya, önbelleğe almaya, yönlendirmeye ya da yeniden fiyatlamaya karar verin.
Formül ve metodoloji planı
Model aylık çalışır. Kullanıcı başı token, istek sayısı çarpı istek başına token'dır ve yeniden deneme payı kadar artar. Ücretsiz kullanıcılar ödeyen bir kullanıcının isteğinin dörtte birini yapar. Etkin token fiyatı, ortalama fiyatın önbellekteki token indirimiyle düşürülmüş halidir. Model faturası, milyon cinsinden token çarpı bu etkin fiyattır ve üstüne bir değerlendirme gideri biner. Net kâr, abonelik geliri eksi komisyonlar, model faturası, ek gider ve sabit altyapıdır.
- Ödeyen kullanıcı başı token
- T = istek × istek başı token × (1 + yeniden deneme)
- Bir ödeyen kullanıcının yeniden denemeler ve ajan döngüleri dahil yarattığı aylık token yükü.
- Etkin token fiyatı
- P = ortalama fiyat × (1 − önbellek isabeti × 0,9)
- Önbellekteki token yaklaşık onda bir fiyata gelir; isabet oranı gerçekte ödediğiniz fiyatı düşürür.
- Model faturası
- AI = (ödeyen × T + ücretsiz × T × 0,25) × P × 1,08
- Ödeyen ve ücretsiz kullanım etkin fiyatla hesaplanır, üstüne değerlendirme ve kayıt için yüzde sekiz eklenir.
- Net kâr
- Net = ödeyen × fiyat − komisyon − AI − altyapı
- Aylık sonuç. Kırılma noktası bunun sıfıra ulaştığı yerdir.
- Ücretsiz katman maliyeti
- F = ücretsiz × T × 0,25 × P
- Ücretsiz kullanıcıların hiçbir şey ödemeden her ay model faturasına maliyeti.
- Brüt marj
- BM = (gelir − komisyon − AI) ÷ gelir
- Sabit altyapıdan önce, komisyon ve model faturasından sonra gelirden kalan pay.
Zincirleme esneklik
İstek başına token ve token fiyatı doğrudan model faturasıyla çarpılır; bu yüzden en esnek kaldıraçlardır: birini yarıya indirmek faturayı yarıya indirir. Ücretsiz kullanıcılar gelirsiz maliyet ekledikleri için sıradaki büyük etkendir. Kullanıcı başı fiyat doğrusal ama güçlüdür; çünkü tüm ödeyen kullanıcıları aynı anda yükseltir. Sabit altyapı, herhangi bir kâr görünmeden önce marjın aşması gereken bir eşik gibidir.
Gerçek dünyadan üç vaka
Sermayesiz başlangıç
Tek kişilik kurucunun ilk ödeyenleri
Tek başına bir kurucu doksan ödeyen ve altı yüz ücretsiz kullanıcıyla bir yazım asistanı yayınlar; ucuz bir model ve kısa istemler kullanır. Rakamlar küçük, barındırma neredeyse bedava ve kâr ince ama pozitiftir. Birkaç yoğun kullanıcı geldiğinde genç bir ürünün ne kadar az payı olduğunu görmek için yükleyin.
Ölçeklenen orta ölçek
Akıllı yönlendirmeli ölçeklenmiş ürün
Dokuz bin ödeyen kullanıcılı bir ürün trafiğin çoğunu ucuz modele yönlendirir, girdisinin neredeyse yarısını önbelleğe alır ve yeniden denemeleri düşük tutar. Model faturası mutlak olarak büyüktür ama gelirin küçük bir payıdır. Mühendislik disiplininin ölçekte marjı nasıl koruduğunu görmek için yükleyin.
Kara kuğu krizi
Sabit fiyatlı viral ajan
Bir ürün her görevde modeli döngüye sokan bir ajan ekler ve ücretsiz katmanı viral olur. İstek başına token üç katına çıkar, yeniden denemeler patlar ve fiyat on iki dolarda kalır. Gelir büyürken her yeni kullanıcı zararı derinleştirir. Ayı hangi kaldıracın düzelttiğini görmek için yükleyin.
Sektör kıyaslama matrisi
| Ölçüt | Tehlike bölgesi | Sektör ortalaması | İlk %10 seçkin |
|---|---|---|---|
| Yapay zekâ faturasının gelire oranı | %35 üzeri | %15–25 | %10 altı |
| Modeller ve komisyonlardan sonra brüt marj | %50 altı | %65–75 | %80 üzeri |
| Ücretsiz kullanıcılara giden token payı | %50 üzeri | %20–35 | %15 altı |
| İstem önbelleği isabet oranı | %10 altı | %25–40 | %60 üzeri |
| Yeniden deneme ve ajan döngüsü yükü | %40 üzeri | %10–20 | %8 altı |
Değişkenler ve kaldıraçlar
Ödeyen kullanıcı
Bu ay ücretli planda olan müşteriler.
Kaldıraç: Ödeyen kullanıcıyı yalnızca her biri modelin maliyetinden fazla kazandırdığında büyütün; aksi halde büyüme zararı artırır.
Kullanıcı başı aylık fiyat
Ödeyen bir kullanıcıdan indirimlerden sonra her ay alınan tutar.
Kaldıraç: Kullanıma dayalı ya da kademeli fiyata geçin; yoğun kullanıcılar tükettikleri token oranında ödesin.
Ücretsiz katman kullanıcısı
Ödemeden ürünü kullanan aktif kullanıcılar.
Kaldıraç: Ücretsiz katmanı istek sayısıyla sınırlayın, daha ucuz modele yönlendirin ya da süreyle kısıtlayın; ücretsiz kullanıcılar en büyük gizli maliyettir.
Kullanıcı başı aylık istek
Aktif bir ödeyen kullanıcının ayda tetiklediği model çağrısı sayısı.
Kaldıraç: Planlara adil kullanım sınırı koyun ve kullanıcılara tüketimlerini gösterin; faturanın büyük kısmını genellikle küçük bir yoğun kullanıcı grubu yaratır.
İstek başına token
Sistem istemi ve getirilen bağlam dahil, tek çağrının girdi ve çıktı token toplamı.
Kaldıraç: İstemleri kısaltın, geçmişi özetleyin ve daha az bağlam getirin; istek başına token her şeyi çarpar.
Milyon token başına ortalama fiyat
Kullandığınız modellerde milyon token için ödediğiniz ortalama fiyat.
Kaldıraç: Kolay istekleri küçük modellere yönlendirin, pahalı modeli zor vakalara saklayın.
Önbellek isabet oranı
Girdi token'larının yüksek indirimle önbellekten karşılanan payı.
Kaldıraç: İstemi uzun sabit kısım önce gelecek şekilde kurun ki önbelleğe alınabilsin; isabet oranını her hafta ölçün.
Yeniden denemeler ve ajan döngüleri
Başarısız çağrılara, yeniden denemelere, yansımaya ve araç döngülerine harcanan ek token.
Kaldıraç: Yeniden denemeyi tetikleyen hataları düzeltin ve ajan döngülerini sınırlayın; her yeniden deneme aynı cevap için ikinci bir faturadır.
Sabit altyapı ve araçlar
Barındırma, vektör veritabanı, izleme ve modelin çevresindeki araçlar.
Kaldıraç: Altyapıyı mevcut kullanıcıya göre boyutlandırın; sabit gider kötü bir ayı ne kadar atlatacağınızı belirler.
Ödeme komisyonu
Ödeme sağlayıcınızın abonelik gelirinden kestiği yüzde.
Kaldıraç: Yıllık planları havaleye taşıyın ya da gelir yeterince büyüyünce komisyonu pazarlık edin.
Bu simülatör nasıl kullanılır
- 1Gerçekçi ön ayardan başlayın ya da kendi kullanıcı, fiyat, token ve önbellek oranınızı girin.
- 2Ücretsiz kullanıcıların, model faturasının ya da marjın önce kırmızıya döndüğünü beş domino kutusundan okuyun.
- 3Hangi fiyat, token sayısı ya da kullanıcı karmasının kârı sıfıra ittiğini öğrenmek için Kırılma noktamı bul'a basın.
- 4Paralel evren sekmesinde mevcut planı yönlendirme ve sınır planıyla 24 ay boyunca karşılaştırın.
- 5Ekibiniz ya da yatırımcılar aynı senaryoyu açabilsin diye paylaşım bağlantısını kopyalayın.
Kaçınılması gereken hatalar
- Marjı bir avuç demo isteğiyle test etmek. Gerçek kullanıcılar daha uzun girdi gönderir ve daha çok çağrı tetikler; ortalamayı ve en yoğun yüzde on kullanıcıyı üretim verisinden ölçün.
- Sabit fiyata sınırsız plan sunmak. Sınırsıza en çok değer verenler genelde en pahalı olanlardır; bu da en iyi müşterilerinizi en büyük zararınıza çevirir.
- Ücretsiz katmanı birim ekonomide yok saymak. Ücretsiz kullanıcılar her ay token harcar ve nadiren gelirin yanında görünür; bu yüzden en sık unutulan maliyettirler.
- Sağlayıcınızın fiyatının sabit kalacağını varsaymak. Fiyatlar ve model davranışı değişir; bu yüzden bir marj tamponu ve başka bir modele geçme ya da yönlendirme yeteneği bulundurun.
Sık sorulan sorular
Yapay zekâ ürününde marj neden normal yazılımdan zor?
Her istek, ödediğiniz bir modeli çağırır; maliyet kullanımla büyürken fiyatınız sabit kalır. Normal yazılımda bir isteğin ek maliyeti sıfıra yakındır.
Token nedir?
Token bir metin parçasıdır; İngilizcede kabaca bir kelimenin dörtte üçü kadardır. Sağlayıcılar girdi ve çıktı token'ını ayrı faturalar; bu model sadeliği için milyon token başına tek bir ortalama fiyat kullanır.
Önbellek maliyetimi nasıl düşürür?
Sağlayıcılar yakın zamanda işledikleri token'lar için çok daha az ücret alır. Uzun, tekrar eden talimatları başa koymak onların önbelleğe alınmasını sağlar ve etkin fiyatı düşürür.
Bir yapay zekâ ürününü nasıl fiyatlamalıyım?
Bir kullanım hakkı ekleyin ve yoğun kullanımı ücretlendirin ya da planları hacme göre kademelendirin. Sabit sınırsız plan, en pahalı kullanıcıların ilk kayıt olanlar olmasına davetiye çıkarır.
Ücretsiz katmanı bırakmalı mıyım?
Şart değil. İstek sayısıyla sınırlayın, ona daha ucuz bir model verin ve kaç ücretsiz kullanıcının dönüştüğünü ölçün. Ücretsiz katman bir pazarlama maliyetidir ve öyle bütçelenmelidir.
Ne kadar doğru?
Belirtilen varsayımlarla eğitim amaçlı bir planlama modelidir; finansal tavsiye değildir. Girdileri kendi kullanım verilerinizle ve sağlayıcınızın güncel fiyatlarıyla değiştirin.
Bu, belirtilen varsayımlara dayalı eğitim amaçlı bir planlama modelidir. Finansal, vergi ya da hukuki tavsiye değildir. Girdileri kendi rakamlarınızla değiştirin ve önemli kararları nitelikli bir uzmanla doğrulayın.