Azure OpenAI: kiintiöt ja rajat

Näin Azure OpenAI -kiintiöt toimivat Microsoft Foundryssa: tokenit ja pyynnöt minuutissa mallin, alueen ja käyttöönottotyypin mukaan, julkaistut oletusarvot, varattu läpäisykyky, miten saatte lisää ja mitä tehdä 429-virheille. Kaikki tämän sivun Microsoftia koskevat tiedot ovat Microsoftin omasta dokumentaatiosta, johon linkitämme alla.

Luo yritystilitai kirjoita osoitteeseen contact@standardcompute.com

Standard Compute · Lähteet tarkistettu 9. marraskuuta 2026

Lyhyet vastaukset

Azure OpenAI -kiintiö myönnetään tilauksellenne alue-, malli- ja käyttöönottotyyppikohtaisesti tokeneina minuutissa (TPM). Jaatte sen käyttöönottojen kesken, ja pyynnöt minuutissa (RPM) seuraavat TPM:stä mallikohtaisella kiinteällä suhteella.

Oletuskiintiöt riippuvat kiintiötasostanne, Free-tasosta (Tier 0) Tier 6:een. Tier 1:llä gpt-6.1-sol saa 250 000 TPM Global Standardilla ja 100 000 TPM Data Zone Standardilla; Enterprise Agreement- ja MCA-E-asiakkaat aloittavat korkeammilta tasoilta.

429 tarkoittaa, että käyttöönotto on ylittänyt TPM- tai RPM-rajansa, mitattuna 1 tai 10 sekunnin ikkunoissa. Microsoft suosittelee noudattamaan retry-after-ms-arvoa, odottamaan jitterillä ja jakamaan pyynnöt usealle käyttöönotolle tai alueelle.

Standard Compute kokoaa GPT:n, Clauden, Geminin ja avoimet mallit yhden API:n taakse ja ohjaa rajoitetun tai epäonnistuneen pyynnön saman mallin toiselle hyväksytylle palveluntarjoajalle. Silloin yhden tilauksen kiintiö tai katkos ei pysäytä työtänne.

Näin kiintiö toimii

Azure OpenAI -kiintiön laajuus ja yksiköt
SääntöTarkemmin
LaajuusTilaus-, alue-, malli- ja käyttöönottotyyppikohtainen. Kiintiötä ei sovelleta tenantin tasolla
YksikköTokenit minuutissa. Jokainen käyttöönotto ottaa TPM:ää yhteisestä poolista; yhden mallin 240 000 TPM yhdellä alueella voi olla yksi käyttöönotto tai kaksi 120 000 TPM:n käyttöönottoa
Pyynnöt minuutissaSuhteessa TPM:ään eikä säädettävissä erikseen. Esimerkiksi gpt-5.4 saa 10 RPM jokaista 1 000 TPM:ää kohden, gpt-5.5 ja o3 saavat 1
KiintiötasotFree (Tier 0) ja Tier 1–6. Tasot nousevat automaattisesti käyttö- ja maksuhistorian perusteella; EA- ja MCA-E-asiakkaat saavat korkeammat tasot
Resurssirajat30 Azure OpenAI -resurssia aluetta ja tilausta kohden, 32 standard-käyttöönottoa resurssia kohden
Global BatchErillinen kiintiö jonossa olevina tokeneina, esimerkiksi 200 miljoonaa gpt-5.5:lle tavallisella tilauksella
Microsoft siirtyy 7. toukokuuta 2026 alkaen tilaustason kiintiöihin, ensimmäisinä Realtime Translate ja Realtime Whisper. Saman mallin Global Standard -käyttöönotot jakavat silloin yhden poolin kaikkien alueiden kesken ja Data Zone Standard -käyttöönotot yhden poolin datavyöhykettä kohden.

Julkaistut oletuskiintiöt

Oletuskiintiö tasoittain, tokenia minuutissa (pyyntöä minuutissa)
Malli ja käyttöönottotyyppiTier 1Tier 3Tier 6
gpt-6.1-sol, Global Standard250 000 (250)2 500 000 (2 500)15 000 000 (15 000)
gpt-6.1-sol, Data Zone Standard100 000 (100)1 100 000 (1 100)5 000 000 (5 000)
gpt-5.5, Global Standard1 000 000 (1 000)4 000 000 (4 000)15 000 000 (15 000)
gpt-5.5, Data Zone Standard333 000 (333)1 333 000 (1 333)5 000 000 (5 000)
gpt-5.4, Global Standard250 000 (2 500)2 500 000 (25 000)15 000 000 (150 000)
gpt-4.1, Global Standard1 000 000 (1 000)9 000 000 (9 000)45 000 000 (45 000)
o3, Global Standard1 000 000 (1 000)4 000 000 (4 000)15 000 000 (15 000)
Lähde: Microsoftin Azure OpenAI -kiintiöitä ja -rajoja koskeva sivu. gpt-6-solilla on samat arvot kuin gpt-6.1-solilla. Data Zone -kiintiöt ovat kaikilla malleilla Global-kiintiöitä pienemmät. Free-taso tarjoaa vain gpt-4.1-minin, gpt-5-minin, o4-minin ja text-embedding-3-smallin, eikä sillä voi hakea korotusta. Microsoftin mukaan rajat voivat muuttua.

Clauden kiintiöt Microsoft Foundryssa

Clauden oletuskiintiö Microsoft Foundryssa, tilausta kohden
TilaustyyppiClaude Opus 5.5 ja Sonnet 5.5Claude Fable 5 ja 5.1
Käytön mukaan maksava40 RPM, 40 000 input- ja 8 000 output-tokenia minuutissa0
Enterprise Agreement ja MCA-E10 000 RPM, 10 000 000 input- ja 2 000 000 output-tokenia minuutissa4 000 RPM, 4 000 000 input- ja 800 000 output-tokenia minuutissa
Ilmainen kokeilu00
Input tarkoittaa input-tokeneita, joita ei lueta välimuistista. Clauden kiintiötä hallitaan tilaustasolla, ja se jaetaan alueiden kesken.

Näin rajaa valvotaan

  • Standard-käyttöönotoissa TPM laskee todelliset input- ja tuotetut tokenit. Suuri max_tokens ei varaa niissä kiintiötä.
  • RPM tarkistetaan lyhyissä ikkunoissa, yleensä 1 tai 10 sekuntia. 600 RPM:n käyttöönottoa rajoitetaan, kun pyyntöjä tulee yli 10 sekunnissa, vaikka minuutin kokonaismäärä jäisi alle 600:n.
  • Hylätyt pyynnöt lasketaan mukaan. Epäonnistuneiden pyyntöjen ryöppy kuluttaa samaa rajaa kuin onnistuneet.
  • Standard-käyttöönotot jakavat kapasiteettipoolin, ja Microsoft voi laskea tehollista rajaanne muutamaksi tunniksi. Jos x-ratelimit-limit-tokens on asettamaanne TPM:ää pienempi, kyse on tästä.
  • Kun mallin kuukausikulutus ylittää koko tenantin tasolla lasketun rajan (esimerkiksi 25 miljardia tokenia gpt-5.5:lle), viive voi Microsoftin mukaan joissain tapauksissa olla yli kaksinkertainen.

429-virheet ja niiden käsittely

Azure OpenAI:n throttling-vastaukset
VastausMerkitysMicrosoft suosittelee
429, rate limit is exceededKäyttöönotto ylitti TPM- tai RPM-rajansaNoudattakaa retry-after-ms-arvoa, odottakaa jitterillä, rajatkaa uusintayritykset 5–10:een, kasvattakaa liikennettä vähitellen
429 varatun läpäisykyvyn käyttöönotossaKäyttöaste on 100 %; Microsoft kutsuu tätä liikenteenhallinnan signaaliksiYrittäkää uudelleen retry-after-ms-ajan jälkeen, lisätkää ylivuoto standard-käyttöönottoon tai ostakaa lisää PTU:ita
Tilapäisesti ei saatavilla, suuri kysyntäJaettu kapasiteetti on vähissä, kiintiöstänne riippumattaYrittäkää uudelleen, jakakaa kuorma käyttöönottojen tai alueiden kesken, käyttäkää varattua läpäisykykyä kriittiseen työhön
Jokaisessa vastauksessa on otsakkeet x-ratelimit-limit, x-ratelimit-remaining ja x-ratelimit-reset pyynnöille ja tokeneille. Kun API Management jakaa liikennettä usealle backendille, Microsoft varoittaa, että Azure OpenAI voi palauttaa hyvin pitkän Retry-After-arvon, Microsoftin esimerkissä vuorokauden, ja suosittelee circuit breaker -sääntöjä.
python
from openai import OpenAI

# AZURE_V1_URL on https://<resurssi>
# .openai.azure.com/openai/v1/
client = OpenAI(
    base_url=AZURE_V1_URL,
    api_key=AZURE_KEY,
    max_retries=5,  # default 2
)

chat = client.chat.completions
raw = chat.with_raw_response.create(
    model="YOUR-DEPLOYMENT",
    messages=messages,
)
h = raw.headers
print(h["x-ratelimit-remaining-tokens"])
reply = raw.parse()

Näin haette lisää kiintiötä

  1. Avatkaa Foundry-portaalissa Manage ja sitten Quota. Token per minute -välilehti näyttää, mitä kullakin mallilla ja alueella on ja mitä on käytössä.
  2. Siirtäkää ensin TPM:ää omien käyttöönottojenne välillä. Muutokset tulevat voimaan noin 15 minuutissa.
  3. Valitkaa Request quota tai käyttäkää kiintiöhakemuslomaketta. Se koskee Azure OpenAI:ta, Azuren myymiä malleja ja Anthropicin Claude-malleja.
  4. Osoittakaa todellinen käyttö. Microsoft asettaa etusijalle asiakkaat, jotka käyttävät aktiivisesti nykyistä kiintiötään, ja muut hakemukset voidaan hylätä.
  5. Hyväksytty korotus lisää kiintiötä muuttamatta tasoanne. Free-tason tilaukset eivät voi hakea korotusta.

Varattu läpäisykyky (PTU)

Varatun läpäisykyvyn perustiedot
AiheTarkemmin
Mitä saatteDedikoitua kapasiteettia, joka laskutetaan riippumatta siitä, tuleeko pyyntöjä
Vähimmäiskoko15 PTU:ta 5:n askelin Global- ja Data Zone Provisioned -käyttöönotoissa; Regional Provisionedissa 50 50:n askelin gpt-5.5:lle, gpt-5.4:lle, gpt-4.1:lle ja o3:lle ja 25 25:n askelin gpt-6.1-solille
Kapasiteetti PTU:ta kohdenInput-tokenit minuutissa PTU:ta kohden: 1 200 gpt-5.5:lle, 2 400 gpt-5.4:lle, 3 000 gpt-6.1-solille ja gpt-4.1:lle
LaskutusTunneittain PTU:ta kohden luonnista poistoon; Azure Reservations 1 kuukaudeksi tai 1 vuodeksi laskee hintaa
KapasiteettiPTU-kiintiö ei takaa kapasiteettia, eikä varauskaan: ottakaa ensin käyttöön, varatkaa sitten
Pyynnön kustannusarvioPrompt-tokenit miinus välimuistitokenit plus max_tokens, korjataan pyynnön valmistuttua
YlivuotoYlimäärä voi mennä standard-käyttöönottoon aina tai pyyntökohtaisesti otsakkeella x-ms-spillover-deployment
PTU-kiintiö on tilaus-, alue- ja käyttöönottotyyppikohtainen eikä sidottu malliin. Hyväksyntä voi kestää useita päiviä.

Käyttöönottotyypit ja käsittelypaikka

Azure OpenAI:n käyttöönottotyypit
KäyttöönottotyyppiMissä kehotteet käsitelläänKiintiö
Global Standard ja Global ProvisionedMillä tahansa Azure-alueellaSuurimmat oletusarvot
Data Zone Standard ja Data Zone ProvisionedDatavyöhykkeen USA, EU tai APAC sisälläPienemmät kuin Global
Standard ja Regional ProvisionedValitulla maantieteellisellä alueellaAluekohtainen
Global BatchMillä tahansa Azure-alueella, tavoite 24 tuntia, 50 % edullisempiJonossa olevat tokenit
Claude toimii Foundryssa Global Standardilla tai Data Zone Standardilla vain USA:ssa; Microsoft ei tarjoa Claudelle EU-datavyöhykettä, ja Sweden Central on ainoa eurooppalainen alue, jolla Claude on saatavilla Global Standardilla.

Kuorman jakaminen usealle palveluntarjoajalle

Jatkuvien 429-virheiden kohdalla Microsoft itse suosittelee pyyntöjen jakamista usealle käyttöönotolle tai alueelle. Askeleen pidemmälle vietynä se tarkoittaa useampaa palveluntarjoajaa: kun yhden tilauksen kiintiö loppuu, sama tai yhtä vahva malli on valmiina muualla.

Standard Computen kanssa Azure-tilauksenne ei ole enää ainoa reitti, eikä haettavaa aluekiintiötä ole: jokainen avain toimii, kunnes sen kuukausibudjetti on käytetty. GPT-6.1 ja GPT-5.6 toimivat Microsoft Azuren EU-datavyöhykkeellä, Claudea palvellaan useasta pilvestä, ja sama API tavoittaa Geminin ja avoimet mallit, kuten GLM:n, DeepSeekin ja MiniMaxin. Jos palveluntarjoaja kaatuu, pyyntönne siirtyy automaattisesti saman mallin toiselle hyväksytylle palveluntarjoajalle poistumatta alue- tai palveluntarjoajarajauksistanne.

Kun yritykselle, tiimille tai yksittäiselle avaimelle on asetettu Eurooppa-rajaus, jokainen pyyntö, myös uusintayritykset ja varareitit, käsitellään vain hyväksytyissä eurooppalaisissa inferenssipäätepisteissä. Työntekijät kirjautuvat Claude Desktopiin ja Claude Codeen Microsoft-työtilillään eurooppalaisen gatewaymme kautta, ja käyttöoikeudet seuraavat Entra-ryhmiänne SCIM-provisioinnin avulla.

python
from openai import OpenAI

client = OpenAI(
    base_url="https://api.stdcmpt.com/v1",
    api_key=STANDARD_COMPUTE_KEY,
)

# "standardcompute" lähettää jokaisen vaiheen
# halvimmalle mallille, joka siitä selviää.
# Clauden lukitsemiseksi:
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
    model="standardcompute",
    messages=messages,
)

Bedrock-kiintiöistä kerromme sivulla AWS Bedrock Claude -kiintiöt. Standard Computen toiminnasta yrityksille kerromme sivulla Tekoäly yrityksille.

Tiiminne Standard Computeen

Luokaa yritystili, kutsukaa tiiminne ja antakaa jokaiselle henkilölle ja sovellukselle oma avain.

Luo yritystiliStandard Compute yrityksille

Usein kysytyt kysymykset

Azure OpenAI -kiintiömme GPT:lle Sweden Centralissa loppuu jatkuvasti. Onko tietosuoja-asetuksen (GDPR) huomioivia vaihtoehtoja, joissa rajat ovat suuremmat?

Standard Compute palvelee GPT-6.1:tä ja GPT-5.6:ta Microsoft Azuren EU-datavyöhykkeellä Clauden ja avointen mallien rinnalla, eikä haettavaa aluekiintiötä ole: jokainen avain toimii, kunnes sen kuukausibudjetti on käytetty. Eurooppa-rajauksella pyyntönne käsitellään vain hyväksytyissä eurooppalaisissa inferenssipäätepisteissä, ja tietojenkäsittelysopimuksen (DPA) allekirjoitatte hallintapaneelissa. Se, täyttääkö käyttönne GDPR:n vaatimukset, riippuu omasta käsittelystänne.

Mitä rajoja Azure OpenAI:ssa on?

Kiintiö on tilaus-, alue-, malli- ja käyttöönottotyyppikohtainen ja ilmaistaan tokeneina minuutissa, ja pyynnöt minuutissa johdetaan siitä. Tier 1:llä gpt-6.1-sol saa 250 000 TPM Global Standardilla ja 100 000 TPM Data Zone Standardilla; Tier 6 yltää 15 000 000 TPM:ään Global Standardilla.

Miksi saamme 429-virheitä, vaikka kulutus on kiintiön alla?

RPM tarkistetaan 1 tai 10 sekunnin ikkunoissa, joten piikkejä rajoitetaan, vaikka minuutti näyttäisi normaalilta. Myös hylätyt pyynnöt lasketaan, ja Microsoft voi tilapäisesti laskea tehollista rajaa jaetulla standard-kapasiteetilla; verratkaa x-ratelimit-limit-tokens-arvoa asettamaanne TPM:ään.

Miten nostamme Azure OpenAI -kiintiötämme?

Jakakaa ensin TPM uudelleen käyttöönottojen kesken, valitkaa sitten Foundry-portaalin Quota-sivulla Request quota tai käyttäkää osoitetta aka.ms/oai/stuquotarequest. Microsoft asettaa etusijalle tilaukset, jotka jo käyttävät kiintiönsä, eivätkä Free-tason tilaukset voi hakea korotusta.

Milloin varattu läpäisykyky (PTU) kannattaa?

Tasaiseen, viiveherkkään kuormaan. PTU:t antavat dedikoitua kapasiteettia, joka laskutetaan tunneittain käytöstä riippumatta, alkaen 15 PTU:sta Global- ja Data Zone -käyttöönotoissa, ja 1 kuukauden tai 1 vuoden varaukset antavat alennusta. Kiintiö tai varaus ei takaa kapasiteettia, joten ottakaa käyttöön ennen varaamista.

Voimmeko käyttää Claudea Azure AI Foundryssa EU:ssa?

Microsoft tarjoaa Claudea Global Standardilla tai Data Zone Standardilla vain USA:ssa, ilman EU-datavyöhykettä. Jos Clauden on käytettävä vain eurooppalaisia päätepisteitä, Standard Computen Eurooppa-rajaus ohjaa Clauden pyynnöt hyväksyttyihin eurooppalaisiin päätepisteisiin ja hylkää pyynnön ennen kuin mitään lähetetään, jos mikään päätepiste ei täytä vaatimuksia.

Lähteet (tarkistettu 9. marraskuuta 2026)

  1. Azure OpenAI in Microsoft Foundry quotas and limits (englanniksi)learn.microsoft.com
  2. Manage Azure OpenAI quota (englanniksi)learn.microsoft.com
  3. Provisioned throughput for Foundry Models (englanniksi)learn.microsoft.com
  4. Understanding costs and sizing for provisioned throughput (englanniksi)learn.microsoft.com
  5. Get started with provisioned deployments (englanniksi)learn.microsoft.com
  6. Deployment types for Microsoft Foundry Models (englanniksi)learn.microsoft.com
  7. Claude models in Microsoft Foundry (englanniksi)learn.microsoft.com
  8. Claude models quotas and rate limits (englanniksi)learn.microsoft.com
  9. Backends in API Management (englanniksi)learn.microsoft.com