Das Wichtigste in Kürze
Das Kontingent für Azure OpenAI wird Ihrem Abonnement je Region, je Modell und je Bereitstellungstyp in Tokens pro Minute (TPM) zugeteilt. Sie verteilen es auf Bereitstellungen, und die Anfragen pro Minute (RPM) ergeben sich je Modell in einem festen Verhältnis aus dem TPM.
Die Standardwerte hängen vom Kontingent-Tier ab, von Free (Tier 0) bis Tier 6. Auf Tier 1 bekommt gpt-6.1-sol 250.000 TPM auf Global Standard und 100.000 TPM auf Data Zone Standard; Kunden mit Enterprise Agreement und MCA-E starten auf höheren Tiers.
Ein 429 bedeutet, dass eine Bereitstellung ihr TPM oder RPM überschritten hat, gemessen in Fenstern von 1 oder 10 Sekunden. Microsoft empfiehlt, retry-after-ms zu beachten, mit Jitter zurückzuhalten und Anfragen auf mehrere Bereitstellungen oder Regionen zu verteilen.
Standard Compute bringt GPT, Claude, Gemini und offene Modelle hinter eine API und leitet eine gedrosselte oder fehlgeschlagene Anfrage an einen anderen freigegebenen Anbieter desselben Modells weiter. So stoppt das Kontingent oder ein Ausfall eines Abonnements Ihre Arbeit nicht.
So funktioniert das Kontingent
| Regel | Detail |
|---|---|
| Geltungsbereich | Je Abonnement, Region, Modell und Bereitstellungstyp. Auf Mandantenebene wird das Kontingent nicht durchgesetzt |
| Einheit | Tokens pro Minute. Jede Bereitstellung nimmt TPM aus dem Pool; 240.000 TPM eines Modells in einer Region können eine Bereitstellung sein oder zwei mit je 120.000 |
| Anfragen pro Minute | Proportional zum TPM und nicht einzeln einstellbar. Ältere Chat-Modelle bekommen 6 RPM je 1.000 TPM, gpt-5.5 und o3 bekommen 1, gpt-5.4 bekommt 10 |
| Kontingent-Tiers | Free (Tier 0) und Tier 1 bis 6. Tiers steigen automatisch mit Nutzungs- und Zahlungshistorie; EA- und MCA-E-Kunden bekommen höhere Tiers |
| Ressourcengrenzen | 30 Azure-OpenAI-Ressourcen je Region und Abonnement, 32 Standardbereitstellungen je Ressource |
| Global Batch | Ein eigenes Kontingent in Tokens in der Warteschlange, zum Beispiel 200 Millionen für gpt-5.5 bei einem Standardabonnement |
Veröffentlichte Standardkontingente
| Modell und Bereitstellungstyp | Tier 1 | Tier 3 | Tier 6 |
|---|---|---|---|
| gpt-6.1-sol, Global Standard | 250.000 (250) | 2.500.000 (2.500) | 15.000.000 (15.000) |
| gpt-6.1-sol, Data Zone Standard | 100.000 (100) | 1.100.000 (1.100) | 5.000.000 (5.000) |
| gpt-5.5, Global Standard | 1.000.000 (1.000) | 4.000.000 (4.000) | 15.000.000 (15.000) |
| gpt-5.5, Data Zone Standard | 333.000 (333) | 1.333.000 (1.333) | 5.000.000 (5.000) |
| gpt-5.4, Global Standard | 250.000 (2.500) | 2.500.000 (25.000) | 15.000.000 (150.000) |
| gpt-4.1, Global Standard | 1.000.000 (1.000) | 9.000.000 (9.000) | 45.000.000 (45.000) |
| o3, Global Standard | 1.000.000 (1.000) | 4.000.000 (4.000) | 15.000.000 (15.000) |
Kontingente für Claude in Microsoft Foundry
| Abonnementtyp | Claude Opus 5.5 und Sonnet 5.5 | Claude Fable 5 und 5.1 |
|---|---|---|
| Pay-as-you-go | 40 RPM, 40.000 Input- und 8.000 Output-Tokens pro Minute | 0 |
| Enterprise Agreement und MCA-E | 10.000 RPM, 10.000.000 Input- und 2.000.000 Output-Tokens pro Minute | 4.000 RPM, 4.000.000 Input- und 800.000 Output-Tokens pro Minute |
| Kostenlose Testversion | 0 | 0 |
Wie das Limit durchgesetzt wird
- Auf Standardbereitstellungen zählt TPM die tatsächlichen Input- und erzeugten Tokens. Ein großer
max_tokens-Wert reserviert dort kein Kontingent. - RPM wird in kurzen Fenstern geprüft, meist 1 oder 10 Sekunden. Eine Bereitstellung mit 600 RPM wird über 10 Anfragen in einer Sekunde gedrosselt, auch wenn die Minute unter 600 bleibt.
- Abgelehnte Anfragen zählen mit. Eine Welle fehlschlagender Aufrufe verbraucht dasselbe Limit wie erfolgreiche.
- Standardbereitstellungen teilen sich einen Kapazitätspool, und Microsoft kann Ihr effektives Limit für einige Stunden senken. Liegt
x-ratelimit-limit-tokensunter dem eingestellten TPM, passiert genau das. - Oberhalb einer monatlichen Nutzung je Modell, gezählt über den Mandanten (etwa 25 Milliarden Tokens für gpt-5.5), kann die Latenz laut Microsoft um mehr als das Doppelte schwanken.
429-Fehler und wie Sie damit umgehen
| Antwort | Bedeutung | Empfehlung von Microsoft |
|---|---|---|
| 429, rate limit is exceeded | Die Bereitstellung hat ihr TPM oder RPM überschritten | retry-after-ms beachten, mit Jitter zurückhalten, Wiederholungen auf 5 bis 10 begrenzen, Last schrittweise erhöhen |
| 429 bei bereitgestelltem Durchsatz | Auslastung bei 100 %; Microsoft nennt es ein Signal der Verkehrssteuerung | Nach retry-after-ms wiederholen, Überlauf zu einer Standardbereitstellung einrichten oder PTUs ergänzen |
| Vorübergehend nicht verfügbar, hohe Nachfrage | Gemeinsame Kapazität ist knapp, unabhängig von Ihrem Kontingent | Wiederholen, Last auf Bereitstellungen oder Regionen verteilen, für kritische Arbeit bereitgestellten Durchsatz nutzen |
from openai import OpenAI
# AZURE_V1_URL ist https://<ressource>
# .openai.azure.com/openai/v1/
client = OpenAI(
base_url=AZURE_V1_URL,
api_key=AZURE_KEY,
max_retries=5, # default 2
)
chat = client.chat.completions
raw = chat.with_raw_response.create(
model="YOUR-DEPLOYMENT",
messages=messages,
)
h = raw.headers
print(h["x-ratelimit-remaining-tokens"])
reply = raw.parse()So beantragen Sie mehr Kontingent
- Öffnen Sie im Foundry-Portal Manage und dann Quota. Der Reiter Token per minute zeigt, was jedes Modell und jede Region hat und was belegt ist.
- Verschieben Sie zuerst TPM zwischen Ihren eigenen Bereitstellungen. Änderungen greifen nach etwa 15 Minuten.
- Wählen Sie Request quota oder nutzen Sie das Formular für Kontingentanfragen. Es gilt für Azure OpenAI, von Azure verkaufte Modelle und die Claude-Modelle von Anthropic.
- Belegen Sie Ihre tatsächliche Nutzung. Microsoft bevorzugt Kunden, die ihr bestehendes Kontingent aktiv nutzen; andere Anfragen können abgelehnt werden.
- Eine genehmigte Erhöhung fügt Kontingent hinzu, ohne den Tier zu ändern. Abonnements im Free-Tier können keine Erhöhung beantragen.
Bereitgestellter Durchsatz (PTU)
| Thema | Detail |
|---|---|
| Was Sie bekommen | Dedizierte Kapazität, abgerechnet unabhängig davon, ob Anfragen kommen |
| Mindestgröße | 15 PTU in Schritten von 5 bei Global und Data Zone Provisioned; bei Regional Provisioned 50 in Schritten von 50 für gpt-5.5, gpt-5.4, gpt-4.1 und o3 und 25 in Schritten von 25 für gpt-6.1-sol |
| Durchsatz je PTU | Input-Tokens pro Minute je PTU: 1.200 für gpt-5.5, 2.400 für gpt-5.4, 3.000 für gpt-6.1-sol und gpt-4.1 |
| Abrechnung | Stündlich je PTU von der Erstellung bis zur Löschung; Azure Reservations für 1 Monat oder 1 Jahr senken den Preis |
| Kapazität | PTU-Kontingent garantiert keine Kapazität, eine Reservierung auch nicht: erst bereitstellen, dann reservieren |
| Kostenschätzung je Anfrage | Prompt-Tokens minus zwischengespeicherte Tokens plus max_tokens, korrigiert am Ende der Anfrage |
| Überlauf | Überschuss kann an eine Standardbereitstellung gehen, immer oder je Anfrage mit x-ms-spillover-deployment |
Bereitstellungstypen und Ort der Verarbeitung
| Bereitstellungstyp | Wo Prompts verarbeitet werden | Kontingent |
|---|---|---|
| Global Standard und Global Provisioned | In jeder Azure-Region | Höchste Standardwerte |
| Data Zone Standard und Data Zone Provisioned | Innerhalb der Datenzone USA, EU oder APAC | Niedriger als Global |
| Standard und Regional Provisioned | In der gewählten Geografie | Je Region |
| Global Batch | In jeder Azure-Region, Ziel 24 Stunden, 50 % günstiger | Tokens in der Warteschlange |
Über mehrere Anbieter verteilen
Bei dauerhaften 429 rät Microsoft selbst, Anfragen auf mehrere Bereitstellungen oder Regionen zu verteilen. Einen Schritt weiter gedacht heißt das: mehr als ein Anbieter. Ist das Kontingent eines Abonnements erschöpft, steht dasselbe oder ein gleich starkes Modell anderswo bereit.
Mit Standard Compute ist Ihr Azure-Abonnement nicht mehr der einzige Weg, und es gibt kein regionales Kontingent zu beantragen: Jeder Schlüssel läuft bis zu seinem Monatsbudget. GPT-6.1 und GPT-5.6 laufen in der EU-Datenzone von Microsoft Azure, Claude wird über mehrere Clouds bedient, und dieselbe API erreicht Gemini und offene Modelle wie GLM, DeepSeek und MiniMax. Fällt ein Anbieter aus, wechselt Ihre Anfrage automatisch zu einem anderen freigegebenen Anbieter desselben Modells, ohne Ihre Regions- oder Anbieterregeln zu verlassen.
Mit einer Europa-Regel für das Unternehmen, ein Team oder einen einzelnen Schlüssel wird jede Anfrage, einschließlich Wiederholungen und Fallbacks, nur von freigegebenen europäischen Inferenz-Endpunkten bedient. Mitarbeitende melden sich bei Claude Desktop und Claude Code mit ihrem Microsoft-Arbeitskonto über unser EU-Gateway an, und der Zugriff folgt Ihren Entra-Gruppen über SCIM-Provisionierung.
from openai import OpenAI
client = OpenAI(
base_url="https://api.stdcmpt.com/v1",
api_key=STANDARD_COMPUTE_KEY,
)
# "standardcompute" schickt jeden Schritt an das
# günstigste Modell, das ihn erledigen kann.
# Um Claude fest zu wählen:
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
model="standardcompute",
messages=messages,
)Für die Kontingente von Bedrock siehe AWS Bedrock Claude Kontingente. Wie Standard Compute für Unternehmen funktioniert, steht auf KI-Gateway für Unternehmen.
Ihr Team auf Standard Compute
Legen Sie ein Unternehmenskonto an, laden Sie Ihr Team ein und geben Sie jeder Person und jeder Anwendung einen eigenen Schlüssel.
Häufige Fragen
Unser Azure-OpenAI-Kontingent für GPT in West Europe ist ständig erschöpft. Gibt es DSGVO-taugliche Alternativen mit höheren Limits?
Standard Compute bedient GPT-6.1 und GPT-5.6 in der EU-Datenzone von Microsoft Azure, dazu Claude und Open-Source-Modelle, und es gibt kein regionales Kontingent zu beantragen: Jeder Schlüssel läuft bis zu seinem Monatsbudget. Mit einer Europa-Regel bedienen nur freigegebene europäische Inferenz-Endpunkte Ihre Anfragen, und den AVV unterschreiben Sie im Dashboard. Ob Ihr Einsatz DSGVO-konform ist, entscheidet Ihre eigene Verarbeitung.
Welche Ratenlimits hat Azure OpenAI?
Das Kontingent gilt je Abonnement, Region, Modell und Bereitstellungstyp in Tokens pro Minute, die Anfragen pro Minute leiten sich daraus ab. Auf Tier 1 bekommt gpt-6.1-sol 250.000 TPM auf Global Standard und 100.000 TPM auf Data Zone Standard; Tier 6 erreicht 15.000.000 TPM auf Global Standard.
Warum bekommen wir 429-Fehler, obwohl die Nutzung unter dem Kontingent liegt?
RPM wird in Fenstern von 1 oder 10 Sekunden geprüft, daher werden Spitzen gedrosselt, auch wenn die Minute unauffällig ist. Abgelehnte Anfragen zählen mit, und Microsoft kann das effektive Limit auf gemeinsamer Standardkapazität vorübergehend senken; vergleichen Sie x-ratelimit-limit-tokens mit dem eingestellten TPM.
Wie erhöhen wir unser Azure-OpenAI-Kontingent?
Verteilen Sie zuerst TPM zwischen Ihren Bereitstellungen um, wählen Sie dann Request quota auf der Quota-Seite des Foundry-Portals oder nutzen Sie aka.ms/oai/stuquotarequest. Microsoft bevorzugt Abonnements, die ihr Kontingent bereits nutzen, und Free-Tier-Abonnements können keine Erhöhung beantragen.
Wann lohnt sich bereitgestellter Durchsatz (PTU)?
Für stetige, latenzkritische Last. PTUs bieten dedizierte Kapazität, stündlich abgerechnet, ob genutzt oder nicht, ab 15 PTU bei Global- und Data-Zone-Bereitstellungen, mit Reservierungen für 1 Monat oder 1 Jahr als Rabatt. Kontingent und Reservierung garantieren keine Kapazität, also erst bereitstellen, dann reservieren.
Können wir Claude in Azure AI Foundry in der EU nutzen?
Microsoft führt Claude auf Global Standard oder auf Data Zone Standard nur in den USA, ohne EU-Datenzone. Für Claude, das nur von europäischen Endpunkten bedient wird, schickt die Europa-Regel von Standard Compute Claude an freigegebene europäische Inferenz-Endpunkte und lehnt die Anfrage ab, bevor etwas gesendet wird, wenn keiner in Frage kommt.
Quellen (geprüft am 9. November 2026)
- Azure OpenAI in Microsoft Foundry: Kontingente und Grenzwertelearn.microsoft.com
- Verwalten des Azure OpenAI-Kontingentslearn.microsoft.com
- Bereitgestellter Durchsatz für Foundry-Modellelearn.microsoft.com
- PTU-Dimensionierung für einen Workload bestimmenlearn.microsoft.com
- Bereitstellungen mit bereitgestelltem Durchsatz in der Produktion betreibenlearn.microsoft.com
- Bereitstellungstypen in Microsoft Foundry Modelslearn.microsoft.com
- Claude-Modelle in Microsoft Foundrylearn.microsoft.com
- Kontingente und Ratenlimits für Claude-Modellelearn.microsoft.com
- Azure API Management: Back-Endslearn.microsoft.com