Límite de frecuencia y cuota
Un límite de frecuencia (rate limit) limita la velocidad a la que puede llamar a un modelo de IA, por ejemplo en solicitudes o tokens por minuto. Una cuota limita lo que puede usar o reservar en total, como un límite de gasto mensual o la capacidad asignada a su cuenta en una región.
Por qué importa a las empresas
Cuando los agentes fallan con errores HTTP 429, la solución depende del límite que se ha alcanzado. Una asignación mensual mayor no cambia un tope por minuto, y lo contrario también es cierto.
Los proveedores llaman a estos límites de forma distinta. Anthropic describe dos tipos de límites para la API de Claude: los límites de gasto (spend limits), un coste mensual máximo, y los límites de frecuencia, medidos en solicitudes, tokens de entrada y tokens de salida por minuto para cada clase de modelo. Microsoft describe la cuota de PTU de Azure como un límite de directiva por suscripción y por región, y aclara que la cuota no garantiza la capacidad.
Ejemplo
Los agentes de un equipo fallan cada mañana a las 10:00 con errores 429. Los registros muestran que los tokens de entrada por minuto alcanzan el límite de frecuencia, mientras que la asignación mensual está lejos de agotarse. Repartir la carga entre más proveedores lo resuelve; una cuota mensual mayor no lo resolvería.
Qué significa para una empresa que usa API de IA
Antes de desplegar un agente en todo un equipo, sume los tokens por minuto que enviará en el pico y compárelos con el límite de frecuencia de cada modelo que usa, no solo con el presupuesto mensual. Los límites también pueden aplicarse en intervalos más cortos: Anthropic advierte de que 60 solicitudes por minuto pueden aplicarse como 1 solicitud por segundo, así que las ráfagas cortas pueden fallar por debajo de la cifra por minuto. Por ejemplo, 20 desarrolladores que arrancan agentes a las 9:00 pueden alcanzar en segundos el límite de tokens de entrada por minuto mientras el gasto del mes sigue siendo bajo.
Dónde se define: Cada proveedor define sus propios límites. La página Rate limits de la API de Claude de Anthropic (en inglés) define los límites de gasto y los límites de frecuencia, y la documentación sobre el rendimiento aprovisionado de Microsoft define la cuota de PTU por suscripción y región.
Qué hace Standard Compute
Conecte Claude Code y Claude Desktop a Standard Compute y su equipo deja de chocar con los límites de 5 horas y semanales: los agentes trabajan hasta agotar el presupuesto mensual. Claude se sirve desde varias nubes, así que la cuota o la caída de un proveedor no detiene su trabajo.
Preguntas frecuentes de las empresas
- ¿Cómo distingo un 429 por límite de frecuencia de un 429 por límite de gasto?
- En la API de Claude, ambos devuelven HTTP 429 con el tipo de error rate_limit_error. Una respuesta por límite de frecuencia puede llevar la cabecera retry-after; la del límite de gasto nunca la lleva y tiene el código de error enforced_spend_limit_reached. Reintentar un error de límite de gasto falla hasta que se restablece el acceso.
- ¿El almacenamiento en caché de prompts ayuda con los límites de frecuencia?
- En la API de Claude, sí puede ayudar. Los límites predeterminados de tokens de entrada por minuto solo cuentan los tokens de entrada que no están en caché, así que el contenido leído de la caché no cuenta para el límite.
- ¿Puedo dar a un equipo un límite más bajo?
- Anthropic permite fijar límites de gasto y de frecuencia propios para cada espacio de trabajo, por debajo de los de la organización, para que un espacio de trabajo no agote la capacidad que necesitan los demás. Los límites de toda la organización siguen aplicándose.
Términos relacionados
Páginas relacionadas
- Límites de Claude para equipos
- Límites de Claude en Amazon Bedrock
- Cuotas de Azure OpenAI
- Glosario de IA para empresas