Guía en profundidad
Simulador de cola por límite de tasa de una API: lo que cuesta un límite de terceros cuando el tráfico se dispara
Análisis ejecutivo del sector
Muchos productos se apoyan en la API de otra empresa: envío de correo, mapas, pagos, enriquecimiento de datos, modelos de lenguaje. El proveedor se protege con un límite de tasa, un techo de solicitudes por segundo. En un día medio, el límite pasa desapercibido. El problema es que los clientes no llegan de forma media. Llegan en un lanzamiento, en la avalancha de la mañana o en una importación masiva, y durante esos minutos su demanda puede ser varias veces la media. Los trabajos que no se pueden enviar esperan en su cola, y una cola que espera demasiado se convierte en un fallo.
La estructura del problema es una cola frente a una tasa de servicio fija. Cuando la tasa de llegada está muy por debajo del límite, la espera es casi nula. A medida que la utilización se acerca al cien por cien, la espera crece muy deprisa, y cuando la demanda supera el límite la acumulación crece sin fin hasta que los tiempos agotados la cortan. Por eso la relación no es lineal: unos pocos puntos más de tráfico cerca del límite pueden convertir una cola inofensiva en una avalancha de fallos. El tiempo máximo que usted permite determina cuánta de esa espera puede absorber.
El modelo en dominó sigue esto en cinco pasos. El volumen de trabajos y la relación de pico fijan la carga en el pico frente al límite. La carga en el pico fija la espera en cola. La espera en relación con el tiempo máximo fija el porcentaje de trabajos fallidos. Los trabajos fallidos tienen un coste en ingresos perdidos, créditos de servicio, reintentos y tickets. Lo que queda tras el cómputo, el plan y los costes fijos es el beneficio. Un pequeño aumento de la relación de pico puede poner en rojo el primer recuadro, y el coste de los fallos aparece entonces en el cuarto mucho antes de que nadie note una caída en el total mensual.
El iceberg separa lo que cuesta el plan de lo que cuestan los fallos. Sobre la línea de flotación están el cómputo y el propio plan de la API. Por debajo quedan los ingresos de los trabajos que nunca se completaron, los créditos debidos según los acuerdos de servicio, el cómputo quemado en reintentos que vuelven a fallar y los tickets de soporte que abren los clientes cuando algo no llega. Juntos suelen superar el precio del plan superior que los habría evitado. Use el simulador para encontrar la carga a partir de la cual los fallos empiezan a pesar más que el coste de ampliar el plan.
Esquema de fórmulas y metodología
El modelo funciona por mes. La tasa de llegada de la hora punta son los trabajos divididos entre los segundos de un mes, multiplicados por la relación de pico. La cola se trata como un único servidor cuya tasa de servicio es el límite de tasa. La utilización es la tasa de llegada entre el límite. El porcentaje de trabajos del pico que esperan más que el tiempo máximo se estima a partir de la cola de la distribución y, cuando la demanda supera el límite, se suma el porcentaje de sobrecarga. Aproximadamente un tercio de los trabajos llega en ventanas de máxima actividad, y siempre se aplica una pequeña base de errores.
- Tasa de llegada en el pico
- λ = trabajos ÷ 2.592.000 × relación de pico
- Solicitudes por segundo durante una ventana de máxima actividad, a partir del volumen mensual.
- Utilización
- ρ = λ ÷ límite
- Parte del límite de tasa utilizada en el pico. Por encima del 100 %, la cola crece sin límite.
- Porcentaje de fallos en el pico
- sobrecarga + (1 − sobrecarga) × ρ × e^(−límite × (1 − ρ) × tiempo máximo)
- Trabajos descartados por sobrecarga más los que esperan más que el tiempo máximo.
- Trabajos fallidos
- F = trabajos × (35 % × fallos en el pico + 0,4 %)
- Fallos durante las ventanas de máxima actividad más una pequeña base de errores permanente.
- Beneficio neto
- Neto = (trabajos − F) × valor − cómputo − plan − reintentos − créditos − tickets − fijos
- El resultado mensual. El punto de ruptura es donde llega a cero.
Elasticidad en cascada
El límite de tasa y la relación de pico son las variables más elásticas porque el porcentaje de fallos depende de lo cerca que esté la utilización del cien por cien. Cerca de ese borde, un pequeño cambio tiene un efecto enorme, mientras que lejos de él apenas importa. Los ingresos por trabajo y el volumen de trabajos escalan toda la línea de ingresos. El tiempo máximo importa especialmente cuando la carga está justo por debajo del límite, donde la paciencia convierte una cola larga en trabajo completado.
Tres casos prácticos reales
Inicio con recursos propios
Un producto joven muy por debajo de su límite
Un producto envía un millón y medio de trabajos al mes con un plan pequeño, con picos moderados y un tiempo máximo generoso. Cada trabajo rinde bien y la cola casi nunca se forma. Cárguelo para ver que un límite bajo es perfectamente válido mientras el volumen es pequeño, y lo poco que cuestan los fallos.
Mediana empresa en crecimiento
Un gran volumen con un plan amplio
Una plataforma envía veintiocho millones de trabajos al mes con un plan de límite de tasa alto. Los picos están controlados y la utilización se mantiene moderada, de modo que los fallos son raros y el plan es una parte pequeña de los ingresos. Cárguelo para ver por qué pagar por margen de holgura es barato cuando el volumen es grande.
Crisis de cisne negro
Una campaña choca con un límite pequeño
Una campaña de marketing genera dieciocho millones de trabajos con picos nueve veces superiores a la media, con un límite de diez solicitudes por segundo y un tiempo máximo de cinco segundos. La utilización supera el cien por cien y la mayoría de los trabajos del pico fallan. Cárguelo para ver cómo los trabajos fallidos, los créditos y los reintentos arrasan el mes.
Matriz de referencias del sector
| Métrica | Zona de peligro | Promedio del sector | Élite (10 % superior) |
|---|---|---|---|
| Utilización en el pico del límite de tasa | Más del 95 % | 60–80 % | Menos del 60 % |
| Relación de solicitudes entre pico y media | Más de 7 | 2–4 | Menos de 2 |
| Trabajos que fallan o agotan el tiempo | Más del 4 % | 0,5–1,5 % | Menos del 0,5 % |
| Espera en cola respecto al tiempo máximo | Más del 60 % | 10–30 % | Menos del 10 % |
| Plan de la API sobre los ingresos | Más del 15 % | 3–8 % | Menos del 3 % |
Variables y palancas
Trabajos por mes
Número de trabajos que su producto envía cada mes a la API de terceros, con una solicitud por trabajo.
Palanca: Aumente el volumen solo cuando el límite y la cola puedan soportar la hora punta, porque los trabajos adicionales elevan el pico que no puede atender.
Relación entre pico y media
Cuántas veces es mayor la tasa de solicitudes de la hora punta que la media mensual. Los lanzamientos, las campañas y las importaciones masivas la elevan.
Palanca: Aplane los picos con lotes programados, prioridades y repartiendo las importaciones a lo largo del día, ya que la hora punta es la que determina los fallos.
Límite de tasa
Solicitudes por segundo que le permite enviar el plan de la API. Las que superan ese límite esperan en su cola.
Palanca: Compare el precio del siguiente nivel del plan con los fallos que elimina; cerca de la carga máxima, un pequeño aumento del límite evita una gran parte de los tiempos agotados.
Tiempo máximo en cola
Cuánto tiempo puede esperar un trabajo en la cola antes de que el usuario o el sistema desista y el trabajo falle.
Palanca: Dé un tiempo máximo mayor al trabajo no urgente y reserve los cortos para los trabajos interactivos, porque la paciencia es capacidad gratuita.
Ingresos por trabajo
Ingreso medio de un trabajo completado, como las tarifas de uso o la parte de una suscripción que representa.
Palanca: Suba los precios o añada un nivel prioritario para que los trabajos que más necesitan el límite también lo paguen.
Cómo usar este simulador
- 1Introduzca los trabajos mensuales y estime su relación entre pico y media a partir de los registros de solicitudes.
- 2Fije el límite de tasa de su plan actual y el tiempo máximo que permite su producto.
- 3Añada los ingresos por trabajo completado.
- 4Pulse «Encontrar mi punto de ruptura» para ver cuánto tráfico o qué límite tan bajo lleva el beneficio a cero.
- 5Compare el plan actual con una ampliación y picos más suaves a 24 meses.
Errores que conviene evitar
- Planificar con el tráfico medio. El límite se alcanza en los minutos de mayor actividad, así que dimensione el plan según sus picos y no según la media mensual.
- Reintentar sin espera progresiva. Los reintentos añaden carga a la misma cola que está fallando y pueden convertir una hora lenta en una caída del servicio.
- Tratar un trabajo fallido solo como una venta perdida. Los créditos, los tickets de soporte y el cómputo desperdiciado pueden costar más de lo que el trabajo habría ingresado.
- Ignorar el crecimiento. Un plan que encaja con el volumen de hoy puede situarse en el noventa y cinco por ciento de utilización tras un solo buen trimestre.
Preguntas frecuentes
¿Por qué empeora tanto la cola cerca del límite?
Porque las pequeñas ráfagas aleatorias ya no se pueden despejar antes de que lleguen las siguientes. El tiempo de espera crece de forma pronunciada a medida que la utilización se acerca al cien por cien.
¿Es siempre mejor un tiempo máximo más largo?
No para los trabajos interactivos, en los que los usuarios no esperarán. Para el trabajo en segundo plano es capacidad gratuita, porque la paciencia absorbe la ráfaga.
¿Debería comprar directamente el plan más grande?
Rara vez. Compare el coste del siguiente nivel con los fallos que elimina y considere antes suavizar los picos, que a menudo sale más barato.
¿Por qué se cuenta una parte de los trabajos como pico?
Porque el tráfico real llega a ráfagas. El modelo supone que aproximadamente un tercio de los trabajos llega en ventanas de máxima actividad, una cifra general prudente que puede adaptar cambiando la relación de pico.
¿Cómo encuentro el punto de ruptura?
Pulse «Encontrar mi punto de ruptura». La herramienta mueve cada variable hacia su extremo más desfavorable e indica el valor en el que el beneficio mensual llega a cero.
¿Qué grado de precisión tiene?
Es un modelo educativo de colas con supuestos sencillos, no un asesoramiento técnico ni financiero. Mida sus registros reales de solicitudes y consulte los límites y precios vigentes de su proveedor.
Este es un modelo educativo de planificación con supuestos declarados. No constituye asesoramiento financiero, fiscal ni jurídico. Sustituya los datos por sus propias cifras y consulte las decisiones importantes con un profesional cualificado.