심층 가이드
AI 래퍼와 LLM 토큰 마진 스트레스 테스트
업계 경영 분석
소프트웨어는 한계 비용이 거의 0에 가까웠습니다. 코드를 한 번 작성하고 나면 고객 한 명을 더 응대하는 데 드는 비용은 호스팅비 몇 센트에 불과했고, 그래서 구독 마진 80~90%가 표준이 되었으며 투자자들도 소프트웨어의 매출원가를 무시하는 법을 배웠습니다. AI 제품은 이 규칙을 깼습니다. 이제 사용자가 요청할 때마다 모델 제공업체의 청구서가 발생하고, 그 청구액은 사용자가 지불하는 금액이 아니라 사용자가 얼마나 많이 쓰느냐에 비례합니다. 월 24달러 정액 요금제의 고객이 어떤 달에는 5달러, 다음 달에는 모델을 하루 종일 반복 호출하는 워크플로를 발견해 50달러의 비용을 일으킬 수 있습니다.
이것이 AI 래퍼, 즉 다른 회사의 모델 위에 인터페이스와 워크플로를 얹은 제품의 핵심 문제입니다. 가격은 고정이고 비용은 변동이며, 공급업체는 언제든 가격이나 모델을 바꿀 수 있습니다. 창업자 한 명이 몇 건의 요청만 시험한 데모에서는 건강해 보였던 마진도, 실제 사용자가 긴 문서와 큰 컨텍스트, 작업 하나를 끝내려고 모델을 스무 번 호출하는 에이전트를 들고 오면 사라질 수 있습니다. 스트레스 테스트는 청구서가 도착하기 전에 그 마진이 얼마나 얇은지를 보여주기 위해 존재합니다.
도미노 모델은 돈의 흐름을 다섯 단계로 따라갑니다. 첫째, 토큰 지출 중 한 푼도 내지 않는 사용자에게 가는 비중입니다. 무료 구간은 토큰으로 지불하는 마케팅 예산이기 때문입니다. 둘째, 모델 청구액이 매출의 얼마를 소비하는가입니다. 셋째, 모델 비용과 수수료를 뺀 뒤 남는 매출총이익률입니다. 넷째, 매출이 모든 비용을 여유 있게 감당하는가입니다. 다섯째, 이익입니다. 에이전트가 더 자주 재시도하거나 프롬프트가 길어지는 등 하나의 변수가 바뀌면 처음 두 상자가 먼저 움직이고 나머지가 뒤따르므로, 장부에 나타나기 한 달 전에 마진 문제를 미리 볼 수 있습니다.
빙산은 단순한 모델 청구액이 감추는 것을 보여줍니다. 수면 위에는 유료 사용자의 모델 청구액과 고정 인프라가 있습니다. 수면 아래에는 무료 사용자의 모델 청구액, 재시도와 에이전트 루프에 소진되는 토큰, 모든 진지한 제품이 추가하는 검수·로깅·평가, 결제 수수료가 있습니다. 많은 AI 제품에서 무료 구간과 재시도를 합한 비용이 유료 사용자 본인의 사용량보다 큽니다. 시뮬레이터로 마진이 무너지는 가격, 토큰 수, 무료 사용자 수를 찾은 뒤, 상한을 두고 캐싱하고 라우팅하고 가격을 다시 정할지 결정하세요.
공식 및 방법론 설계도
이 모델은 월 단위로 계산합니다. 사용자당 토큰은 요청 수에 요청당 토큰 수를 곱하고 재시도 비율만큼 늘린 값입니다. 무료 사용자의 요청은 유료 사용자의 4분의 1입니다. 실효 토큰 가격은 혼합 가격에서 캐시된 토큰의 할인분을 뺀 값입니다. 모델 청구액은 백만 단위 토큰 수에 이 실효 가격을 곱하고 평가 오버헤드를 더한 값입니다. 순이익은 구독 매출에서 수수료, 모델 청구액, 오버헤드, 고정 인프라를 뺀 값입니다.
- 유료 사용자당 토큰
- T = 요청 수 × 요청당 토큰 수 × (1 + 재시도)
- 재시도와 에이전트 루프를 포함해 유료 사용자 한 명이 만드는 월 토큰 부하입니다.
- 실효 토큰 가격
- P = 혼합 가격 × (1 − 캐시 적중 × 0.9)
- 캐시된 토큰은 비용이 약 10분의 1이므로, 적중률이 실제로 지불하는 가격을 낮춥니다.
- 모델 청구액
- AI = (유료 × T + 무료 × T × 0.25) × P × 1.08
- 유료 사용량과 무료 사용량을 실효 가격으로 계산하고, 평가와 로깅 몫으로 8%를 더한 값입니다.
- 순이익
- 순이익 = 유료 × 요금 − 수수료 − AI − 인프라
- 월 손익입니다. 한계점은 이 값이 0이 되는 지점입니다.
- 무료 구간 비용
- F = 무료 × T × 0.25 × P
- 무료 사용자가 아무것도 내지 않으면서 매달 모델 청구액으로 일으키는 비용입니다.
- 매출총이익률
- GM = (매출 − 수수료 − AI) ÷ 매출
- 고정 인프라를 빼기 전에, 수수료와 모델 청구액을 뺀 뒤 남는 매출 비율입니다.
연쇄 탄력성
요청당 토큰 수와 토큰 가격은 모델 청구액에 직접 곱해지므로 가장 탄력적인 변수입니다. 둘 중 하나가 절반이 되면 청구액도 절반이 됩니다. 무료 사용자는 매출 없이 비용만 더하므로 그다음으로 큰 요인입니다. 사용자당 요금은 선형이지만 모든 유료 사용자에게 한꺼번에 작용하므로 강력합니다. 고정 인프라는 이익이 나타나기 전에 마진이 넘어야 하는 문턱 역할을 합니다.
실제 사례 세 가지
자기 자본으로 시작하는 스타트업
1인 창업자의 첫 유료 사용자
1인 창업자가 유료 사용자 90명과 무료 사용자 600명으로 글쓰기 도우미를 출시하며, 저렴한 모델과 짧은 프롬프트를 씁니다. 규모가 작고 호스팅비는 거의 없으며 이익은 얇지만 흑자입니다. 이 사례를 불러오면 몇 명의 헤비 사용자가 나타났을 때 초기 제품에 얼마나 여유가 없는지 볼 수 있습니다.
성장 중인 중견 기업
스마트 라우팅을 갖춘 확장 단계의 제품
유료 사용자가 9,000명인 제품이 트래픽 대부분을 저렴한 모델로 보내고, 입력의 거의 절반을 캐시하며, 재시도를 낮게 유지합니다. 모델 청구액은 절대 금액으로는 크지만 매출에서 차지하는 비중은 작습니다. 이 사례를 불러오면 엔지니어링의 규율이 규모가 커져도 마진을 지키는 모습을 볼 수 있습니다.
블랙 스완 위기
정액 요금제로 바이럴을 탄 에이전트
한 제품이 모든 작업에서 모델을 반복 호출하는 에이전트를 추가했고, 무료 구간이 입소문을 탔습니다. 요청당 토큰은 세 배로 늘고, 재시도는 폭증하며, 요금은 12달러로 그대로입니다. 매출은 늘지만 신규 사용자가 늘수록 손실이 깊어집니다. 이 사례를 불러오면 어떤 변수가 그 달을 되살리는지 확인할 수 있습니다.
업계 벤치마크 매트릭스
| 지표 | 위험 구간 | 업계 평균 | 상위 10% 우수 기업 |
|---|---|---|---|
| 매출 대비 AI 청구액 비율 | 35% 초과 | 15–25% | 10% 미만 |
| 모델 비용과 수수료 차감 후 매출총이익률 | 50% 미만 | 65–75% | 80% 초과 |
| 무료 사용자에게 쓰이는 토큰 비율 | 50% 초과 | 20–35% | 15% 미만 |
| 프롬프트 캐시 적중률 | 10% 미만 | 25–40% | 60% 초과 |
| 재시도와 에이전트 루프 오버헤드 | 40% 초과 | 10–20% | 8% 미만 |
변수와 레버
유료 사용자
이번 달 유료 요금제를 사용하는 고객입니다.
레버: 유료 사용자는 한 명이 모델 비용보다 많이 벌어 줄 때만 늘리세요. 그렇지 않으면 성장이 손실을 키웁니다.
사용자당 월 요금
할인 적용 후 유료 사용자에게 매달 청구하는 금액입니다.
레버: 사용량 기반 또는 등급형 요금제로 바꿔, 많이 쓰는 사용자가 소비한 토큰에 비례해 지불하도록 하세요.
무료 구간 사용자
결제하지 않고 제품을 사용하는 활성 사용자입니다.
레버: 무료 구간은 요청 수로 제한하거나 더 저렴한 모델로 보내거나 기간을 제한하세요. 무료 사용자는 가장 큰 숨은 비용입니다.
사용자당 월 요청 수
활성 유료 사용자가 한 달 동안 발생시키는 모델 호출 횟수입니다.
레버: 요금제별로 공정 사용 한도를 두고 사용자에게 사용량을 보여주세요. 소수의 헤비 사용자가 청구액 대부분을 만드는 경우가 많습니다.
요청당 토큰 수
시스템 프롬프트와 검색된 컨텍스트를 포함한 호출 1회의 입력 토큰과 출력 토큰의 합계입니다.
레버: 프롬프트를 다듬고, 이전 대화를 요약하고, 가져오는 컨텍스트를 줄이세요. 요청당 토큰 수는 다른 모든 값에 곱해집니다.
100만 토큰당 혼합 가격
사용하는 여러 모델에 걸쳐 100만 토큰당 지불하는 평균 가격입니다.
레버: 쉬운 요청은 더 작은 모델로 보내고, 프리미엄 모델은 어려운 경우를 위해 남겨 두세요.
캐시 적중률
캐시 또는 프롬프트 캐시에서 큰 폭의 할인으로 처리되는 입력 토큰의 비율입니다.
레버: 길고 고정된 부분을 앞에 두어 캐시할 수 있도록 프롬프트를 구성하고, 적중률을 매주 측정하세요.
재시도와 에이전트 루프
실패한 호출, 재시도, 반성 단계, 도구 루프에 쓰이는 추가 토큰입니다.
레버: 재시도를 유발하는 실패를 고치고 에이전트 루프에 상한을 두세요. 재시도는 같은 답에 대해 두 번째 청구서를 받는 일입니다.
고정 인프라와 도구
호스팅, 벡터 데이터베이스, 모니터링 등 모델을 둘러싼 도구 비용입니다.
레버: 현재 사용자 수에 맞게 인프라 규모를 조정하세요. 고정비가 나쁜 달을 얼마나 버틸 수 있는지를 결정합니다.
결제 수수료
구독 매출에서 결제 대행사가 가져가는 비율입니다.
레버: 연간 요금제는 계좌 이체로 돌리거나, 매출이 충분히 커지면 결제 대행 수수료를 협상하세요.
이 시뮬레이터 사용 방법
- 1현실적인 프리셋에서 시작하거나 사용자 수, 요금, 토큰, 캐싱률을 직접 입력합니다.
- 2다섯 개의 도미노 상자를 읽고 무료 사용자, 모델 청구액, 마진 중 어느 쪽이 먼저 붉게 변하는지 확인합니다.
- 3「나의 한계점 찾기」를 눌러 어떤 요금, 토큰 수, 사용자 구성이 이익을 0으로 만드는지 확인합니다.
- 4평행 우주 탭에서 현재 계획과 라우팅 및 상한 방안을 24개월에 걸쳐 비교합니다.
- 5공유 링크를 복사해 팀이나 투자자가 같은 시나리오를 열어 볼 수 있게 합니다.
피해야 할 실수
- 몇 건의 데모 요청으로 마진을 시험하는 것입니다. 실제 사용자는 더 긴 입력을 보내고 더 많은 호출을 일으키므로, 운영 데이터에서 평균과 상위 10% 헤비 사용자를 측정하세요.
- 정액 요금으로 무제한 요금제를 제공하는 것입니다. 무제한에 가장 큰 가치를 두는 사용자가 대개 비용이 가장 큰 사용자여서, 최고의 고객이 가장 큰 손실로 바뀝니다.
- 단위 경제성에서 무료 구간을 무시하는 것입니다. 무료 사용자는 매달 토큰 비용을 일으키지만 매출 옆에 거의 나타나지 않아 가장 자주 잊히는 비용입니다.
- 제공업체의 가격이 그대로일 것이라고 가정하는 것입니다. 가격과 모델 동작은 바뀌므로, 마진 여유분과 다른 모델로 전환하거나 라우팅할 수 있는 능력을 유지하세요.
자주 묻는 질문
AI 제품의 마진이 일반 소프트웨어보다 어려운 이유는 무엇인가요?
요청마다 비용을 내야 하는 모델을 호출하므로 사용량에 따라 비용이 늘지만 가격은 그대로입니다. 일반 소프트웨어는 요청 하나가 늘어도 비용이 거의 0입니다.
토큰이란 무엇인가요?
토큰은 텍스트의 한 조각으로, 영어에서는 대략 단어의 4분의 3에 해당합니다. 제공업체는 입력 토큰과 출력 토큰을 따로 청구하지만, 이 모델은 단순화를 위해 100만 토큰당 하나의 혼합 가격을 씁니다.
캐싱은 비용을 어떻게 낮추나요?
제공업체는 최근 요청에서 이미 처리한 토큰에 훨씬 낮은 요금을 부과합니다. 길고 반복되는 지시문을 앞에 두면 캐시할 수 있어 실효 가격이 내려갑니다.
AI 제품의 가격은 어떻게 정해야 하나요?
사용량 허용분을 포함하고 많이 쓰면 추가로 청구하거나, 사용량에 따라 요금제를 나누세요. 무제한 정액 요금제는 비용이 가장 많이 드는 사용자가 가장 먼저 가입하게 만듭니다.
무료 구간을 없애야 하나요?
꼭 그렇지는 않습니다. 요청 수로 제한하고, 더 저렴한 모델을 쓰며, 무료 사용자 중 몇 명이 유료로 전환되는지 측정하세요. 무료 구간은 마케팅 비용이며 그렇게 예산을 세워야 합니다.
이 결과는 얼마나 정확한가요?
명시된 가정에 기반한 교육용 계획 모델이며 재무 조언이 아닙니다. 입력값을 실제 사용량 데이터와 제공업체의 최신 가격으로 바꾸세요.
이 모델은 명시된 가정에 기반한 교육용 계획 모델입니다. 재무, 세무 또는 법률 자문이 아닙니다. 입력값을 본인의 수치로 바꾸시고, 중요한 결정은 반드시 자격을 갖춘 전문가와 확인하시기 바랍니다.