Lyhyet vastaukset
Azure OpenAI -kiintiö myönnetään tilauksellenne alue-, malli- ja käyttöönottotyyppikohtaisesti tokeneina minuutissa (TPM). Jaatte sen käyttöönottojen kesken, ja pyynnöt minuutissa (RPM) seuraavat TPM:stä mallikohtaisella kiinteällä suhteella.
Oletuskiintiöt riippuvat kiintiötasostanne, Free-tasosta (Tier 0) Tier 6:een. Tier 1:llä gpt-6.1-sol saa 250 000 TPM Global Standardilla ja 100 000 TPM Data Zone Standardilla; Enterprise Agreement- ja MCA-E-asiakkaat aloittavat korkeammilta tasoilta.
429 tarkoittaa, että käyttöönotto on ylittänyt TPM- tai RPM-rajansa, mitattuna 1 tai 10 sekunnin ikkunoissa. Microsoft suosittelee noudattamaan retry-after-ms-arvoa, odottamaan jitterillä ja jakamaan pyynnöt usealle käyttöönotolle tai alueelle.
Standard Compute kokoaa GPT:n, Clauden, Geminin ja avoimet mallit yhden API:n taakse ja ohjaa rajoitetun tai epäonnistuneen pyynnön saman mallin toiselle hyväksytylle palveluntarjoajalle. Silloin yhden tilauksen kiintiö tai katkos ei pysäytä työtänne.
Näin kiintiö toimii
| Sääntö | Tarkemmin |
|---|---|
| Laajuus | Tilaus-, alue-, malli- ja käyttöönottotyyppikohtainen. Kiintiötä ei sovelleta tenantin tasolla |
| Yksikkö | Tokenit minuutissa. Jokainen käyttöönotto ottaa TPM:ää yhteisestä poolista; yhden mallin 240 000 TPM yhdellä alueella voi olla yksi käyttöönotto tai kaksi 120 000 TPM:n käyttöönottoa |
| Pyynnöt minuutissa | Suhteessa TPM:ään eikä säädettävissä erikseen. Esimerkiksi gpt-5.4 saa 10 RPM jokaista 1 000 TPM:ää kohden, gpt-5.5 ja o3 saavat 1 |
| Kiintiötasot | Free (Tier 0) ja Tier 1–6. Tasot nousevat automaattisesti käyttö- ja maksuhistorian perusteella; EA- ja MCA-E-asiakkaat saavat korkeammat tasot |
| Resurssirajat | 30 Azure OpenAI -resurssia aluetta ja tilausta kohden, 32 standard-käyttöönottoa resurssia kohden |
| Global Batch | Erillinen kiintiö jonossa olevina tokeneina, esimerkiksi 200 miljoonaa gpt-5.5:lle tavallisella tilauksella |
Julkaistut oletuskiintiöt
| Malli ja käyttöönottotyyppi | Tier 1 | Tier 3 | Tier 6 |
|---|---|---|---|
| gpt-6.1-sol, Global Standard | 250 000 (250) | 2 500 000 (2 500) | 15 000 000 (15 000) |
| gpt-6.1-sol, Data Zone Standard | 100 000 (100) | 1 100 000 (1 100) | 5 000 000 (5 000) |
| gpt-5.5, Global Standard | 1 000 000 (1 000) | 4 000 000 (4 000) | 15 000 000 (15 000) |
| gpt-5.5, Data Zone Standard | 333 000 (333) | 1 333 000 (1 333) | 5 000 000 (5 000) |
| gpt-5.4, Global Standard | 250 000 (2 500) | 2 500 000 (25 000) | 15 000 000 (150 000) |
| gpt-4.1, Global Standard | 1 000 000 (1 000) | 9 000 000 (9 000) | 45 000 000 (45 000) |
| o3, Global Standard | 1 000 000 (1 000) | 4 000 000 (4 000) | 15 000 000 (15 000) |
Clauden kiintiöt Microsoft Foundryssa
| Tilaustyyppi | Claude Opus 5.5 ja Sonnet 5.5 | Claude Fable 5 ja 5.1 |
|---|---|---|
| Käytön mukaan maksava | 40 RPM, 40 000 input- ja 8 000 output-tokenia minuutissa | 0 |
| Enterprise Agreement ja MCA-E | 10 000 RPM, 10 000 000 input- ja 2 000 000 output-tokenia minuutissa | 4 000 RPM, 4 000 000 input- ja 800 000 output-tokenia minuutissa |
| Ilmainen kokeilu | 0 | 0 |
Näin rajaa valvotaan
- Standard-käyttöönotoissa TPM laskee todelliset input- ja tuotetut tokenit. Suuri
max_tokensei varaa niissä kiintiötä. - RPM tarkistetaan lyhyissä ikkunoissa, yleensä 1 tai 10 sekuntia. 600 RPM:n käyttöönottoa rajoitetaan, kun pyyntöjä tulee yli 10 sekunnissa, vaikka minuutin kokonaismäärä jäisi alle 600:n.
- Hylätyt pyynnöt lasketaan mukaan. Epäonnistuneiden pyyntöjen ryöppy kuluttaa samaa rajaa kuin onnistuneet.
- Standard-käyttöönotot jakavat kapasiteettipoolin, ja Microsoft voi laskea tehollista rajaanne muutamaksi tunniksi. Jos
x-ratelimit-limit-tokenson asettamaanne TPM:ää pienempi, kyse on tästä. - Kun mallin kuukausikulutus ylittää koko tenantin tasolla lasketun rajan (esimerkiksi 25 miljardia tokenia gpt-5.5:lle), viive voi Microsoftin mukaan joissain tapauksissa olla yli kaksinkertainen.
429-virheet ja niiden käsittely
| Vastaus | Merkitys | Microsoft suosittelee |
|---|---|---|
| 429, rate limit is exceeded | Käyttöönotto ylitti TPM- tai RPM-rajansa | Noudattakaa retry-after-ms-arvoa, odottakaa jitterillä, rajatkaa uusintayritykset 5–10:een, kasvattakaa liikennettä vähitellen |
| 429 varatun läpäisykyvyn käyttöönotossa | Käyttöaste on 100 %; Microsoft kutsuu tätä liikenteenhallinnan signaaliksi | Yrittäkää uudelleen retry-after-ms-ajan jälkeen, lisätkää ylivuoto standard-käyttöönottoon tai ostakaa lisää PTU:ita |
| Tilapäisesti ei saatavilla, suuri kysyntä | Jaettu kapasiteetti on vähissä, kiintiöstänne riippumatta | Yrittäkää uudelleen, jakakaa kuorma käyttöönottojen tai alueiden kesken, käyttäkää varattua läpäisykykyä kriittiseen työhön |
from openai import OpenAI
# AZURE_V1_URL on https://<resurssi>
# .openai.azure.com/openai/v1/
client = OpenAI(
base_url=AZURE_V1_URL,
api_key=AZURE_KEY,
max_retries=5, # default 2
)
chat = client.chat.completions
raw = chat.with_raw_response.create(
model="YOUR-DEPLOYMENT",
messages=messages,
)
h = raw.headers
print(h["x-ratelimit-remaining-tokens"])
reply = raw.parse()Näin haette lisää kiintiötä
- Avatkaa Foundry-portaalissa Manage ja sitten Quota. Token per minute -välilehti näyttää, mitä kullakin mallilla ja alueella on ja mitä on käytössä.
- Siirtäkää ensin TPM:ää omien käyttöönottojenne välillä. Muutokset tulevat voimaan noin 15 minuutissa.
- Valitkaa Request quota tai käyttäkää kiintiöhakemuslomaketta. Se koskee Azure OpenAI:ta, Azuren myymiä malleja ja Anthropicin Claude-malleja.
- Osoittakaa todellinen käyttö. Microsoft asettaa etusijalle asiakkaat, jotka käyttävät aktiivisesti nykyistä kiintiötään, ja muut hakemukset voidaan hylätä.
- Hyväksytty korotus lisää kiintiötä muuttamatta tasoanne. Free-tason tilaukset eivät voi hakea korotusta.
Varattu läpäisykyky (PTU)
| Aihe | Tarkemmin |
|---|---|
| Mitä saatte | Dedikoitua kapasiteettia, joka laskutetaan riippumatta siitä, tuleeko pyyntöjä |
| Vähimmäiskoko | 15 PTU:ta 5:n askelin Global- ja Data Zone Provisioned -käyttöönotoissa; Regional Provisionedissa 50 50:n askelin gpt-5.5:lle, gpt-5.4:lle, gpt-4.1:lle ja o3:lle ja 25 25:n askelin gpt-6.1-solille |
| Kapasiteetti PTU:ta kohden | Input-tokenit minuutissa PTU:ta kohden: 1 200 gpt-5.5:lle, 2 400 gpt-5.4:lle, 3 000 gpt-6.1-solille ja gpt-4.1:lle |
| Laskutus | Tunneittain PTU:ta kohden luonnista poistoon; Azure Reservations 1 kuukaudeksi tai 1 vuodeksi laskee hintaa |
| Kapasiteetti | PTU-kiintiö ei takaa kapasiteettia, eikä varauskaan: ottakaa ensin käyttöön, varatkaa sitten |
| Pyynnön kustannusarvio | Prompt-tokenit miinus välimuistitokenit plus max_tokens, korjataan pyynnön valmistuttua |
| Ylivuoto | Ylimäärä voi mennä standard-käyttöönottoon aina tai pyyntökohtaisesti otsakkeella x-ms-spillover-deployment |
Käyttöönottotyypit ja käsittelypaikka
| Käyttöönottotyyppi | Missä kehotteet käsitellään | Kiintiö |
|---|---|---|
| Global Standard ja Global Provisioned | Millä tahansa Azure-alueella | Suurimmat oletusarvot |
| Data Zone Standard ja Data Zone Provisioned | Datavyöhykkeen USA, EU tai APAC sisällä | Pienemmät kuin Global |
| Standard ja Regional Provisioned | Valitulla maantieteellisellä alueella | Aluekohtainen |
| Global Batch | Millä tahansa Azure-alueella, tavoite 24 tuntia, 50 % edullisempi | Jonossa olevat tokenit |
Kuorman jakaminen usealle palveluntarjoajalle
Jatkuvien 429-virheiden kohdalla Microsoft itse suosittelee pyyntöjen jakamista usealle käyttöönotolle tai alueelle. Askeleen pidemmälle vietynä se tarkoittaa useampaa palveluntarjoajaa: kun yhden tilauksen kiintiö loppuu, sama tai yhtä vahva malli on valmiina muualla.
Standard Computen kanssa Azure-tilauksenne ei ole enää ainoa reitti, eikä haettavaa aluekiintiötä ole: jokainen avain toimii, kunnes sen kuukausibudjetti on käytetty. GPT-6.1 ja GPT-5.6 toimivat Microsoft Azuren EU-datavyöhykkeellä, Claudea palvellaan useasta pilvestä, ja sama API tavoittaa Geminin ja avoimet mallit, kuten GLM:n, DeepSeekin ja MiniMaxin. Jos palveluntarjoaja kaatuu, pyyntönne siirtyy automaattisesti saman mallin toiselle hyväksytylle palveluntarjoajalle poistumatta alue- tai palveluntarjoajarajauksistanne.
Kun yritykselle, tiimille tai yksittäiselle avaimelle on asetettu Eurooppa-rajaus, jokainen pyyntö, myös uusintayritykset ja varareitit, käsitellään vain hyväksytyissä eurooppalaisissa inferenssipäätepisteissä. Työntekijät kirjautuvat Claude Desktopiin ja Claude Codeen Microsoft-työtilillään eurooppalaisen gatewaymme kautta, ja käyttöoikeudet seuraavat Entra-ryhmiänne SCIM-provisioinnin avulla.
from openai import OpenAI
client = OpenAI(
base_url="https://api.stdcmpt.com/v1",
api_key=STANDARD_COMPUTE_KEY,
)
# "standardcompute" lähettää jokaisen vaiheen
# halvimmalle mallille, joka siitä selviää.
# Clauden lukitsemiseksi:
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
model="standardcompute",
messages=messages,
)Bedrock-kiintiöistä kerromme sivulla AWS Bedrock Claude -kiintiöt. Standard Computen toiminnasta yrityksille kerromme sivulla Tekoäly yrityksille.
Tiiminne Standard Computeen
Luokaa yritystili, kutsukaa tiiminne ja antakaa jokaiselle henkilölle ja sovellukselle oma avain.
Usein kysytyt kysymykset
Azure OpenAI -kiintiömme GPT:lle Sweden Centralissa loppuu jatkuvasti. Onko tietosuoja-asetuksen (GDPR) huomioivia vaihtoehtoja, joissa rajat ovat suuremmat?
Standard Compute palvelee GPT-6.1:tä ja GPT-5.6:ta Microsoft Azuren EU-datavyöhykkeellä Clauden ja avointen mallien rinnalla, eikä haettavaa aluekiintiötä ole: jokainen avain toimii, kunnes sen kuukausibudjetti on käytetty. Eurooppa-rajauksella pyyntönne käsitellään vain hyväksytyissä eurooppalaisissa inferenssipäätepisteissä, ja tietojenkäsittelysopimuksen (DPA) allekirjoitatte hallintapaneelissa. Se, täyttääkö käyttönne GDPR:n vaatimukset, riippuu omasta käsittelystänne.
Mitä rajoja Azure OpenAI:ssa on?
Kiintiö on tilaus-, alue-, malli- ja käyttöönottotyyppikohtainen ja ilmaistaan tokeneina minuutissa, ja pyynnöt minuutissa johdetaan siitä. Tier 1:llä gpt-6.1-sol saa 250 000 TPM Global Standardilla ja 100 000 TPM Data Zone Standardilla; Tier 6 yltää 15 000 000 TPM:ään Global Standardilla.
Miksi saamme 429-virheitä, vaikka kulutus on kiintiön alla?
RPM tarkistetaan 1 tai 10 sekunnin ikkunoissa, joten piikkejä rajoitetaan, vaikka minuutti näyttäisi normaalilta. Myös hylätyt pyynnöt lasketaan, ja Microsoft voi tilapäisesti laskea tehollista rajaa jaetulla standard-kapasiteetilla; verratkaa x-ratelimit-limit-tokens-arvoa asettamaanne TPM:ään.
Miten nostamme Azure OpenAI -kiintiötämme?
Jakakaa ensin TPM uudelleen käyttöönottojen kesken, valitkaa sitten Foundry-portaalin Quota-sivulla Request quota tai käyttäkää osoitetta aka.ms/oai/stuquotarequest. Microsoft asettaa etusijalle tilaukset, jotka jo käyttävät kiintiönsä, eivätkä Free-tason tilaukset voi hakea korotusta.
Milloin varattu läpäisykyky (PTU) kannattaa?
Tasaiseen, viiveherkkään kuormaan. PTU:t antavat dedikoitua kapasiteettia, joka laskutetaan tunneittain käytöstä riippumatta, alkaen 15 PTU:sta Global- ja Data Zone -käyttöönotoissa, ja 1 kuukauden tai 1 vuoden varaukset antavat alennusta. Kiintiö tai varaus ei takaa kapasiteettia, joten ottakaa käyttöön ennen varaamista.
Voimmeko käyttää Claudea Azure AI Foundryssa EU:ssa?
Microsoft tarjoaa Claudea Global Standardilla tai Data Zone Standardilla vain USA:ssa, ilman EU-datavyöhykettä. Jos Clauden on käytettävä vain eurooppalaisia päätepisteitä, Standard Computen Eurooppa-rajaus ohjaa Clauden pyynnöt hyväksyttyihin eurooppalaisiin päätepisteisiin ja hylkää pyynnön ennen kuin mitään lähetetään, jos mikään päätepiste ei täytä vaatimuksia.
Lähteet (tarkistettu 9. marraskuuta 2026)
- Azure OpenAI in Microsoft Foundry quotas and limits (englanniksi)learn.microsoft.com
- Manage Azure OpenAI quota (englanniksi)learn.microsoft.com
- Provisioned throughput for Foundry Models (englanniksi)learn.microsoft.com
- Understanding costs and sizing for provisioned throughput (englanniksi)learn.microsoft.com
- Get started with provisioned deployments (englanniksi)learn.microsoft.com
- Deployment types for Microsoft Foundry Models (englanniksi)learn.microsoft.com
- Claude models in Microsoft Foundry (englanniksi)learn.microsoft.com
- Claude models quotas and rate limits (englanniksi)learn.microsoft.com
- Backends in API Management (englanniksi)learn.microsoft.com