Rendimiento aprovisionado (PTU)
El rendimiento aprovisionado (provisioned throughput) es capacidad reservada de un modelo: paga una cantidad fija de procesamiento por hora, la use o no, a cambio de un rendimiento y una latencia previsibles. En Microsoft Azure se mide en unidades de rendimiento aprovisionado (PTU).
Por qué importa a las empresas
La capacidad de pago por token se comparte con otros clientes y puede limitarse en las horas punta. La capacidad aprovisionada se reserva solo para su implementación.
La documentación de Microsoft expone las contrapartidas: las implementaciones aprovisionadas se facturan por PTU y por hora, con independencia de los tokens consumidos, la cuota de PTU se asigna por suscripción, región y tipo de implementación, y tener cuota no garantiza que haya capacidad disponible.
Ejemplo
El chatbot de clientes de un banco debe mantener tiempos de respuesta estables el lunes a las 9:00. El banco reserva PTU para un modelo en una región de Azure y los paga día y noche, fines de semana incluidos.
Qué significa para una empresa que usa API de IA
El rendimiento aprovisionado encaja con un tráfico estable en el que la latencia importa más que el coste por token, porque paga la capacidad reservada las 24 horas. Antes de contratarlo, compare un mes de horas reservadas con lo que costaría el mismo tráfico pagando por token, y compruebe que hay capacidad disponible en su región. Por ejemplo, un chatbot con mucha actividad ocho horas al día también paga las otras dieciséis.
Dónde se define: Cada nube define su propia versión. La página Rendimiento aprovisionado para Foundry Models de Microsoft define las PTU como la unidad de capacidad de procesamiento de modelos reservada para un despliegue, que se factura por PTU y por hora.
Qué hace Standard Compute
Conecte Claude Code y Claude Desktop a Standard Compute y su equipo deja de chocar con los límites de 5 horas y semanales: los agentes trabajan hasta agotar el presupuesto mensual. Claude se sirve desde varias nubes, así que la cuota o la caída de un proveedor no detiene su trabajo.
Preguntas frecuentes de las empresas
- ¿El rendimiento aprovisionado sale más barato que el pago por uso?
- Solo con un uso alto y constante. Paga por PTU y por hora tanto si envía tokens como si no, así que las horas ociosas encarecen el precio efectivo por token.
- ¿Tener cuota de PTU garantiza la capacidad?
- No. Microsoft indica que la cuota de PTU es un límite por suscripción, región y tipo de despliegue, y que tener cuota no garantiza que haya capacidad disponible cuando despliega.
- ¿Amazon Bedrock ofrece rendimiento aprovisionado?
- Sí. Bedrock vende Provisioned Throughput para aumentar el rendimiento de un modelo. AWS indica que sus perfiles de inferencia entre regiones no admiten por ahora Provisioned Throughput.
Términos relacionados
Páginas relacionadas
- Cuotas de Azure OpenAI, PTU y errores 429
- Límites de Claude en Amazon Bedrock
- Glosario de IA para empresas