Najważniejsze w skrócie
Przydział Azure OpenAI jest przyznawany subskrypcji osobno dla regionu, modelu i typu wdrożenia, w tokenach na minutę (TPM). Rozdzielacie go między wdrożenia, a żądania na minutę (RPM) wynikają z TPM w stałej proporcji dla danego modelu.
Domyślne przydziały zależą od poziomu przydziałów, od Free (Tier 0) do Tier 6. Na Tier 1 gpt-6.1-sol dostaje 250 000 TPM w Global Standard i 100 000 TPM w Data Zone Standard; klienci z Enterprise Agreement i MCA-E zaczynają od wyższych poziomów.
Błąd 429 oznacza, że wdrożenie przekroczyło swoje TPM lub RPM, mierzone w oknach 1 lub 10 sekund. Microsoft zaleca respektowanie retry-after-ms, odczekanie z jitterem i rozłożenie żądań na kilka wdrożeń lub regionów.
Standard Compute łączy GPT, Claude, Gemini i otwarte modele za jednym API i przekazuje ograniczone lub nieudane żądanie innemu zatwierdzonemu dostawcy tego samego modelu. Przydział lub awaria jednej subskrypcji nie zatrzymuje wtedy Waszej pracy.
Jak działa przydział
| Reguła | Szczegóły |
|---|---|
| Zakres | Na subskrypcję, region, model i typ wdrożenia. Przydział nie jest egzekwowany na poziomie tenanta |
| Jednostka | Tokeny na minutę. Każde wdrożenie bierze TPM ze wspólnej puli; 240 000 TPM jednego modelu w regionie może być jednym wdrożeniem albo dwoma po 120 000 |
| Żądania na minutę | Proporcjonalne do TPM, bez możliwości osobnej regulacji. Na przykład gpt-5.4 dostaje 10 RPM na każde 1000 TPM, gpt-5.5 i o3 dostają 1 |
| Poziomy przydziałów | Free (Tier 0) i Tier 1–6. Poziomy rosną automatycznie wraz z historią użycia i płatności; klienci EA i MCA-E dostają wyższe poziomy |
| Limity zasobów | 30 zasobów Azure OpenAI na region i subskrypcję, 32 wdrożenia standardowe na zasób |
| Global Batch | Osobny przydział w tokenach w kolejce, na przykład 200 milionów dla gpt-5.5 w standardowej subskrypcji |
Opublikowane przydziały domyślne
| Model i typ wdrożenia | Tier 1 | Tier 3 | Tier 6 |
|---|---|---|---|
| gpt-6.1-sol, Global Standard | 250 000 (250) | 2 500 000 (2 500) | 15 000 000 (15 000) |
| gpt-6.1-sol, Data Zone Standard | 100 000 (100) | 1 100 000 (1 100) | 5 000 000 (5 000) |
| gpt-5.5, Global Standard | 1 000 000 (1 000) | 4 000 000 (4 000) | 15 000 000 (15 000) |
| gpt-5.5, Data Zone Standard | 333 000 (333) | 1 333 000 (1 333) | 5 000 000 (5 000) |
| gpt-5.4, Global Standard | 250 000 (2 500) | 2 500 000 (25 000) | 15 000 000 (150 000) |
| gpt-4.1, Global Standard | 1 000 000 (1 000) | 9 000 000 (9 000) | 45 000 000 (45 000) |
| o3, Global Standard | 1 000 000 (1 000) | 4 000 000 (4 000) | 15 000 000 (15 000) |
Przydziały Claude w Microsoft Foundry
| Typ subskrypcji | Claude Opus 5.5 i Sonnet 5.5 | Claude Fable 5 i 5.1 |
|---|---|---|
| Płatność za użycie | 40 RPM, 40 000 tokenów wejściowych i 8000 wyjściowych na minutę | 0 |
| Enterprise Agreement i MCA-E | 10 000 RPM, 10 000 000 tokenów wejściowych i 2 000 000 wyjściowych na minutę | 4000 RPM, 4 000 000 tokenów wejściowych i 800 000 wyjściowych na minutę |
| Bezpłatna wersja próbna | 0 | 0 |
Jak egzekwowany jest limit
- We wdrożeniach standardowych TPM liczy faktyczne tokeny wejściowe i wygenerowane. Duża wartość
max_tokensnie rezerwuje tam przydziału. - RPM jest sprawdzane w krótkich oknach, zwykle 1 lub 10 sekund. Wdrożenie z 600 RPM jest ograniczane powyżej 10 żądań w ciągu sekundy, nawet jeśli w skali minuty zostaje poniżej 600.
- Odrzucone żądania też się liczą. Fala nieudanych żądań zużywa ten sam limit co udane.
- Wdrożenia standardowe dzielą pulę przepustowości, a Microsoft może na kilka godzin obniżyć Wasz efektywny limit. Jeśli
x-ratelimit-limit-tokensjest niższe niż ustawione TPM, właśnie to się dzieje. - Gdy miesięczne zużycie modelu w całym tenancie przekroczy próg (na przykład 25 miliardów tokenów dla gpt-5.5), opóźnienie może według Microsoft w niektórych przypadkach być ponad dwukrotnie wyższe.
Błędy 429 i jak je obsłużyć
| Odpowiedź | Znaczenie | Microsoft zaleca |
|---|---|---|
| 429, rate limit is exceeded | Wdrożenie przekroczyło swoje TPM lub RPM | Respektujcie retry-after-ms, odczekajcie z jitterem, ograniczcie ponowienia do 5–10, zwiększajcie ruch stopniowo |
| 429 we wdrożeniu z aprowizowaną przepustowością | Wykorzystanie wynosi 100%; Microsoft nazywa to sygnałem zarządzania ruchem | Ponówcie po retry-after-ms, dodajcie przelewanie nadmiaru do wdrożenia standardowego lub kupcie więcej PTU |
| Chwilowo niedostępne, wysokie zapotrzebowanie | Brakuje wspólnej przepustowości, niezależnie od Waszego przydziału | Ponówcie, rozłóżcie obciążenie na wdrożenia lub regiony, użyjcie aprowizowanej przepustowości do krytycznej pracy |
from openai import OpenAI
# AZURE_V1_URL to https://<zasób>
# .openai.azure.com/openai/v1/
client = OpenAI(
base_url=AZURE_V1_URL,
api_key=AZURE_KEY,
max_retries=5, # default 2
)
chat = client.chat.completions
raw = chat.with_raw_response.create(
model="YOUR-DEPLOYMENT",
messages=messages,
)
h = raw.headers
print(h["x-ratelimit-remaining-tokens"])
reply = raw.parse()Jak wnioskować o większy przydział
- W portalu Foundry otwórzcie Manage, a potem Quota. Karta Token per minute pokazuje, ile ma każdy model i region i ile jest w użyciu.
- Najpierw przesuńcie TPM między własnymi wdrożeniami. Zmiany działają po około 15 minutach.
- Wybierzcie Request quota lub użyjcie formularza wniosku o przydział. Obejmuje on Azure OpenAI, modele sprzedawane przez Azure i modele Claude od Anthropic.
- Pokażcie rzeczywiste użycie. Microsoft daje pierwszeństwo klientom, którzy aktywnie wykorzystują obecny przydział, a inne wnioski mogą zostać odrzucone.
- Zatwierdzone zwiększenie dodaje przydział bez zmiany poziomu. Subskrypcje na poziomie Free nie mogą wnioskować o zwiększenie.
Aprowizowana przepustowość (PTU)
| Temat | Szczegóły |
|---|---|
| Co dostajecie | Dedykowaną przepustowość, rozliczaną niezależnie od tego, czy przychodzą żądania |
| Minimalna wielkość | 15 PTU w krokach po 5 dla Global i Data Zone Provisioned; dla Regional Provisioned 50 w krokach po 50 dla gpt-5.5, gpt-5.4, gpt-4.1 i o3 oraz 25 w krokach po 25 dla gpt-6.1-sol |
| Przepustowość na PTU | Tokeny wejściowe na minutę na PTU: 1200 dla gpt-5.5, 2400 dla gpt-5.4, 3000 dla gpt-6.1-sol i gpt-4.1 |
| Rozliczenie | Godzinowo za PTU od utworzenia do usunięcia; Azure Reservations na 1 miesiąc lub 1 rok obniżają cenę |
| Przepustowość | Przydział PTU nie gwarantuje przepustowości, rezerwacja też nie: najpierw wdróżcie, potem rezerwujcie |
| Szacunek kosztu żądania | Tokeny promptu minus tokeny z pamięci podręcznej plus max_tokens, korygowany po zakończeniu żądania |
| Nadmiar | Nadmiar może trafiać do wdrożenia standardowego, zawsze lub dla pojedynczego żądania nagłówkiem x-ms-spillover-deployment |
Typy wdrożeń i miejsce przetwarzania
| Typ wdrożenia | Gdzie przetwarzane są prompty | Przydział |
|---|---|---|
| Global Standard i Global Provisioned | W dowolnym regionie Azure | Najwyższe wartości domyślne |
| Data Zone Standard i Data Zone Provisioned | W strefie danych USA, UE lub APAC | Niższe niż Global |
| Standard i Regional Provisioned | W wybranej geografii | Na region |
| Global Batch | W dowolnym regionie Azure, cel 24 godziny, 50% taniej | Tokeny w kolejce |
Rozłożenie na wielu dostawców
Przy utrzymujących się błędach 429 Microsoft sam zaleca rozłożenie żądań na kilka wdrożeń lub regionów. Idąc krok dalej, oznacza to więcej niż jednego dostawcę: gdy jednej subskrypcji kończy się przydział, ten sam lub równie mocny model czeka gdzie indziej.
Ze Standard Compute Wasza subskrypcja Azure nie jest już jedyną drogą i nie ma regionalnego przydziału, o który trzeba wnioskować: każdy klucz działa, dopóki nie wyczerpie budżetu miesięcznego. GPT-6.1 i GPT-5.6 działają w strefie danych UE Microsoft Azure, Claude działa w kilku chmurach, a to samo API daje dostęp do Gemini i otwartych modeli, takich jak GLM, DeepSeek i MiniMax. Gdy dostawca ma awarię, żądanie automatycznie przechodzi do innego zatwierdzonego dostawcy tego samego modelu, bez wychodzenia poza Wasze ograniczenia regionalne i ograniczenia dostawców.
Gdy dla firmy, zespołu lub pojedynczego klucza ustawione jest ograniczenie do Europy, każde żądanie, łącznie z ponowieniami i trasami zapasowymi, obsługują wyłącznie zatwierdzone europejskie punkty końcowe. Pracownicy logują się do Claude Desktop i Claude Code kontem służbowym Microsoft przez naszą europejską bramkę, a dostęp wynika z grup Entra dzięki provisioningowi SCIM.
from openai import OpenAI
client = OpenAI(
base_url="https://api.stdcmpt.com/v1",
api_key=STANDARD_COMPUTE_KEY,
)
# "standardcompute" wysyła każdy krok
# do najtańszego modelu, który sobie poradzi.
# Aby przypiąć Claude:
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
model="standardcompute",
messages=messages,
)O przydziałach Bedrock piszemy na stronie Limity AWS Bedrock dla Claude. Jak Standard Compute działa w firmach, opisujemy na stronie AI dla firm.
Wasz zespół w Standard Compute
Załóżcie konto firmowe, zaproście zespół i dajcie każdej osobie oraz każdej aplikacji własny klucz.
Najczęstsze pytania
Nasz przydział Azure OpenAI dla GPT w Sweden Central ciągle się kończy. Czy są alternatywy zgodne z RODO z wyższymi limitami?
Standard Compute obsługuje GPT-6.1 i GPT-5.6 w strefie danych UE Microsoft Azure, razem z Claude i otwartymi modelami, i nie ma regionalnego przydziału, o który trzeba wnioskować: każdy klucz działa, dopóki nie wyczerpie budżetu miesięcznego. Przy ograniczeniu do Europy żądania obsługują wyłącznie zatwierdzone europejskie punkty końcowe, a umowę powierzenia przetwarzania danych (DPA) podpisujecie w panelu. To, czy Wasze użycie spełnia wymogi RODO, zależy od Waszego własnego przetwarzania.
Jakie limity ma Azure OpenAI?
Przydział obowiązuje na subskrypcję, region, model i typ wdrożenia, w tokenach na minutę, a żądania na minutę z niego wynikają. Na Tier 1 gpt-6.1-sol dostaje 250 000 TPM w Global Standard i 100 000 TPM w Data Zone Standard; Tier 6 sięga 15 000 000 TPM w Global Standard.
Dlaczego dostajemy błędy 429, choć zużycie jest poniżej przydziału?
RPM jest sprawdzane w oknach 1 lub 10 sekund, więc szczyty są ograniczane, nawet gdy minuta wygląda normalnie. Odrzucone żądania też się liczą, a Microsoft może chwilowo obniżyć efektywny limit we wspólnej przepustowości standardowej; porównajcie x-ratelimit-limit-tokens z ustawionym TPM.
Jak zwiększyć nasz przydział Azure OpenAI?
Najpierw rozdzielcie TPM między wdrożenia, potem wybierzcie Request quota na stronie Quota w portalu Foundry lub użyjcie aka.ms/oai/stuquotarequest. Microsoft daje pierwszeństwo subskrypcjom, które już wykorzystują swój przydział, a subskrypcje na poziomie Free nie mogą wnioskować o zwiększenie.
Kiedy opłaca się aprowizowana przepustowość (PTU)?
Przy równym obciążeniu wrażliwym na opóźnienia. PTU dają dedykowaną przepustowość rozliczaną godzinowo niezależnie od użycia, od 15 PTU dla wdrożeń Global i Data Zone, a rezerwacje na 1 miesiąc lub 1 rok dają rabat. Ani przydział, ani rezerwacja nie gwarantują przepustowości, więc wdróżcie przed rezerwacją.
Czy możemy używać Claude w Azure AI Foundry w UE?
Microsoft oferuje Claude w Global Standard albo w Data Zone Standard tylko w USA, bez strefy danych UE. Jeśli Claude może korzystać wyłącznie z europejskich punktów końcowych, ograniczenie do Europy w Standard Compute kieruje żądania do Claude do zatwierdzonych europejskich punktów końcowych, a gdy żaden nie spełnia wymagań, odrzuca żądanie, zanim cokolwiek zostanie wysłane.
Źródła (sprawdzono 9 listopada 2026)
- Azure OpenAI in Microsoft Foundry quotas and limits (po angielsku)learn.microsoft.com
- Manage Azure OpenAI quota (po angielsku)learn.microsoft.com
- Provisioned throughput for Foundry Models (po angielsku)learn.microsoft.com
- Understanding costs and sizing for provisioned throughput (po angielsku)learn.microsoft.com
- Get started with provisioned deployments (po angielsku)learn.microsoft.com
- Deployment types for Microsoft Foundry Models (po angielsku)learn.microsoft.com
- Claude models in Microsoft Foundry (po angielsku)learn.microsoft.com
- Claude models quotas and rate limits (po angielsku)learn.microsoft.com
- Backends in API Management (po angielsku)learn.microsoft.com