Azure OpenAI: kvoter og rate limits

Sådan fungerer kvoten

Offentliggjorte standardkvoter

Kvoter for Claude i Microsoft Foundry

Sådan håndhæves grænsen

• På standardudrulninger tæller TPM de faktiske input- og genererede tokens. En stor max_tokens reserverer ikke kvote dér.
• RPM tjekkes i korte vinduer, typisk 1 eller 10 sekunder. En udrulning med 600 RPM begrænses over 10 forespørgsler i ét sekund, selv om minuttet holder sig under 600.
• Afviste forespørgsler tæller med. En bølge af fejlede kald bruger samme grænse som vellykkede.
• Standardudrulninger deler en kapacitetspulje, og Microsoft kan sænke jeres effektive grænse i nogle timer. Ligger x-ratelimit-limit-tokens under den TPM, I har sat, er det det, der sker.
• Over et månedligt forbrug pr. model, talt på tværs af tenanten (fx 25 milliarder tokens for gpt-5.5), kan latensen ifølge Microsoft variere mere end det dobbelte.

429-fejl og hvordan I håndterer dem

from openai import OpenAI

# AZURE_V1_URL er https://<ressource>
# .openai.azure.com/openai/v1/
client = OpenAI(
    base_url=AZURE_V1_URL,
    api_key=AZURE_KEY,
    max_retries=5,  # default 2
)

chat = client.chat.completions
raw = chat.with_raw_response.create(
    model="YOUR-DEPLOYMENT",
    messages=messages,
)
h = raw.headers
print(h["x-ratelimit-remaining-tokens"])
reply = raw.parse()

Sådan anmoder I om mere kvote

1. Åbn Manage og derefter Quota i Foundry-portalen. Fanen Token per minute viser, hvad hver model og region har, og hvad der er i brug.
2. Flyt først TPM mellem jeres egne udrulninger. Ændringer gælder efter ca. 15 minutter.
3. Vælg Request quota, eller brug formularen til kvoteanmodning. Den dækker Azure OpenAI, modeller solgt af Azure og Anthropics Claude-modeller.
4. Vis reelt forbrug. Microsoft prioriterer kunder, der aktivt bruger deres nuværende kvote, og andre anmodninger kan blive afvist.
5. En godkendt forhøjelse tilføjer kvote uden at ændre jeres tier. Free-abonnementer kan ikke anmode om forhøjelse.

Provisioneret kapacitet (PTU)

Udrulningstyper og hvor behandlingen sker

Fordeling på flere udbydere

Ved vedvarende 429 anbefaler Microsoft selv at fordele forespørgsler på flere udrulninger eller regioner. Et skridt videre betyder det mere end én udbyder: Når et abonnement løber tør for kvote, står den samme eller en lige så stærk model klar et andet sted.

Med Standard Compute er jeres Azure-abonnement ikke længere den eneste vej, og der er ingen regional kvote at ansøge om: hver nøgle kører, til dens månedsbudget er brugt. GPT-6.1 og GPT-5.6 kører i Microsoft Azures EU-datazone, Claude betjenes af flere clouds, og samme API når Gemini og åbne modeller som GLM, DeepSeek og MiniMax. Går en udbyder ned, skifter jeres forespørgsel automatisk til en anden godkendt udbyder af samme model, uden at forlade jeres regions- eller udbyderregler.

Med en Europa-regel for virksomheden, et team eller en enkelt nøgle betjenes hver forespørgsel, også gentagelser og fallbacks, kun af godkendte europæiske inferens-endpoints. Medarbejdere logger ind i Claude Desktop og Claude Code med deres Microsoft-arbejdskonto gennem vores EU-gateway, og adgangen følger jeres Entra-grupper via SCIM-provisionering.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.stdcmpt.com/v1",
    api_key=STANDARD_COMPUTE_KEY,
)

# "standardcompute" sender hvert trin til den
# billigste model, der kan klare det.
# For at låse Claude fast:
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
    model="standardcompute",
    messages=messages,
)

Om kvoter på Bedrock, se AWS Bedrock Claude kvoter. Hvordan Standard Compute fungerer for virksomheder, står på AI-gateway til virksomheder.

Ofte stillede spørgsmål

Kilder (kontrolleret 9. november 2026)

1. Azure OpenAI in Microsoft Foundry Models quotas and limits (engelsk)learn.microsoft.com
2. Manage Azure OpenAI quota (engelsk)learn.microsoft.com
3. Provisioned throughput for Foundry Models (engelsk)learn.microsoft.com
4. Determine PTU sizing for a workload (engelsk)learn.microsoft.com
5. Operate provisioned throughput deployments (engelsk)learn.microsoft.com
6. Deployment types in Microsoft Foundry Models (engelsk)learn.microsoft.com
7. Claude models in Microsoft Foundry (engelsk)learn.microsoft.com
8. Claude model quotas and rate limits (engelsk)learn.microsoft.com
9. Azure API Management backends (engelsk)learn.microsoft.com

Læs også

• AI-gateway til virksomheder
• AWS Bedrock Claude kvoter