Provisioned Throughput (PTU)
Provisioned Throughput ist reservierte Modellkapazität: Sie bezahlen pro Stunde für eine feste Verarbeitungsmenge, ob Sie sie nutzen oder nicht, und erhalten dafür planbaren Durchsatz und planbare Latenz. In Microsoft Azure wird sie in Provisioned Throughput Units (PTUs) gemessen.
Warum das für Unternehmen wichtig ist
Kapazität mit Abrechnung pro Token teilen Sie mit anderen Kunden, sie kann zu Spitzenzeiten gedrosselt werden. Provisionierte Kapazität ist allein für Ihre Bereitstellung reserviert.
Die Dokumentation von Microsoft nennt die Abwägungen: Provisionierte Bereitstellungen werden pro PTU und Stunde abgerechnet, unabhängig von den verbrauchten Tokens, das PTU-Kontingent gilt pro Abonnement, Region und Bereitstellungstyp, und ein Kontingent garantiert keine verfügbare Kapazität.
Beispiel
Der Kunden-Chatbot einer Bank braucht montags um 9:00 Uhr stabile Antwortzeiten. Die Bank reserviert PTUs für ein Modell in einer Azure-Region und bezahlt sie rund um die Uhr, auch nachts und am Wochenende.
So setzt Standard Compute das um
Leiten Sie Claude Code und Claude Desktop über Standard Compute, und Ihr Team stößt nicht mehr an 5-Stunden- und Wochenlimits: Agenten laufen, bis das Monatsbudget verbraucht ist. Claude wird über mehrere Clouds bedient, sodass das Kontingent oder der Ausfall eines Anbieters Ihre Arbeit nicht stoppt.
Weiterführende Seiten
- Azure OpenAI: Kontingente, PTU und 429-Fehler
- Amazon Bedrock Claude: Kontingente
- Rate Limit und Kontingent
- Glossar: KI im Unternehmen