Det korta svaret
Amazon Bedrock begränsar Claude i tokens per minut, per modell och per region, där input- och output-tokens räknas tillsammans. Vissa modeller har också en kvot för anrop per minut, och varje konto har ett dagligt tak för tokens.
Varje output-token från Claude räknas 5, 10 eller 15 gånger mot kvoten beroende på modell, och hela max_tokens reserveras när anropet startar. Därför börjar throttling långt innan de fakturerade tokens når kvoten.
En ThrottlingException är HTTP 429 och betyder att kontot har överskridit en Bedrock-kvot. AWS rekommenderar exponentiell backoff med jitter, en kvothöjning och Reserved Tier eller Provisioned Throughput vid ihållande last.
Större höjningar hanteras av AWS Support. AWS prioriterar konton som redan använder sin kvot och kan avslå andra ansökningar.
På Standard Compute körs Claude i flera moln, så en leverantörs kvot eller driftstopp stoppar inte ert arbete: ett begränsat eller misslyckat anrop går automatiskt till en annan leverantör av samma modell.
Kvoterna som gäller för Claude
| Kvot (AWS-namn) | Omfattning | Vad den räknar |
|---|---|---|
Cross-Region InvokeModel tokens per minute | Per modell, per region | Input- och output-tokens tillsammans, för anrop via en cross-region inference-profil |
On-demand InvokeModel tokens per minute | Per modell, per region | Input- och output-tokens tillsammans, för on demand-anrop i en region |
InvokeModel requests per minute | Per modell, per region | Anrop per minut, för modeller med den här kvoten; Claude Opus 4.7 och 4.8 har ingen |
Cross-Model Max Tokens Per Day | Per konto, per region | Tokens per dag över alla modeller som stöds |
Trots namnen gäller kvoterna för alla inferens-API:er som anropar modellen på bedrock-runtime, även Converse, Responses och Chat Completions. Den nyare slutpunkten bedrock-mantle räknas separat, med egna kvoter för input- och output-tokens per minut och utan kvot för anrop per minut.
Publicerade standardvärden för aktuella Claude-modeller
| Modell | Cross-region, tokens per minut | Global cross-region, tokens per minut | Cross-region, anrop per minut |
|---|---|---|---|
| Claude Opus 5.5 | 30 000 000 | 30 000 000 | Inte publicerat |
| Claude Opus 5 | 30 000 000 | 30 000 000 | Inte publicerat |
| Claude Opus 4.8 | 30 000 000 | 30 000 000 | Ingen RPM-kvot |
| Claude Sonnet 5.5 | 6 000 000 | 6 000 000 | Inte publicerat |
| Claude Sonnet 5 | 6 000 000 | 6 000 000 | Inte publicerat |
| Claude Sonnet 4.6 | 6 000 000 | 6 000 000 | 10 000 |
| Claude Haiku 5.5 | 10 000 000 | 10 000 000 | Inte publicerat |
| Claude Haiku 4.5 | 5 000 000 | 5 000 000 | 10 000 |
Varför kvoten sjunker snabbare än fakturan
Bedrock räknar om output-tokens till kvotförbrukning med en burndown-faktor. AWS anger 10 gånger för Claude Opus 5.5, Sonnet 5, Opus 5 och Fable 5.1, 15 gånger för Claude-modeller i version 4.8 och 5 gånger för version 4.7 och äldre. Sidan anger ingen egen faktor för Sonnet 5.5 eller Haiku 5.5. Ni betalar bara för de tokens som faktiskt används.
Kvoten belastas också i förväg. När ett anrop startar drar Bedrock av input-tokens plus hela max_tokens och lämnar tillbaka den oanvända delen när anropet är klart. Läsningar från cachen räknas inte. AWS:s formel tillämpad på ett anrop till Claude Opus 5.5:
input-tokens 20 000
max_tokens 32 000
genererad output 2 000
reserverat vid start 52 000
= input + max_tokens
belastat vid slut 40 000
= input + output x 10
fakturerade tokens 22 000
= input + outputAtt sätta max_tokens nära den verkliga outputstorleken är det billigaste sättet att få plats med fler samtidiga anrop i samma kvot.
Inferens över flera regioner
Cross-region inference skickar ett anrop via en inference-profil, och Bedrock väljer regionen som hanterar det. Anrop via en profil använder modellens cross-region-kvot, som är skild från on demand-kvoten för anrop i en region.
| Profil | Var anropen körs | Pris |
|---|---|---|
| Geografisk (US, EU, APAC) | I de regioner i geografin som profilen omfattar | Standardpris |
| Global | I alla kommersiella AWS-regioner som stöds | Cirka 10 % billigare enligt AWS |
ThrottlingException och närliggande fel
| Fel | HTTP | Betydelse | AWS rekommenderar |
|---|---|---|---|
| ThrottlingException | 429 | Anropet överskred kontots Bedrock-kvoter | Försök igen med exponentiell backoff och jitter, kontrollera kvoterna, ansök om höjning eller använd Reserved Tier eller Provisioned Throughput vid ihållande last |
| ModelNotReadyException | 429 | Vissa runtime-operationer returnerar också 429 för detta | Titta på feltypen, inte bara statuskoden |
| ServiceUnavailable | 503 | Tillfällig kapacitetsbrist, oberoende av er kvot | Vänta och försök igen; byt region eller använd cross-region inference om det består |
| overloaded_error | 529 | Modellen saknar kapacitet just nu | Respektera Retry-After, undvik synkrona omförsök, använd cross-region inference |
AWS:s exempel är sex försök totalt, det första anropet plus fem omförsök. I boto3:
import boto3
from botocore.config import Config
config = Config(retries={
"total_max_attempts": 6,
"mode": "standard",
})
client = boto3.client(
"bedrock-runtime", config=config
)Så ansöker ni om en kvothöjning
- Öppna Service Quotas, välj Amazon Bedrock och kontrollera kontots värden för den modell och region ni anropar.
- Kontrollera först modellens livscykel. AWS beviljar inga höjningar för modeller med status Legacy eller Deprecated.
- Ansök om höjningen på "Cross-Region InvokeModel tokens per minute" för modellen. AWS Support erbjuder då att höja on demand-tokens per minut och tokens per dag i samma ärende.
- Visa verklig användning. Enligt AWS prioriteras kunder vars trafik redan använder den nuvarande kvoten, och andra ansökningar kan avslås. Mindre höjningar godkänns ofta automatiskt; större granskas av AWS Support.
- Endpointen
bedrock-mantlehar ett eget förfarande.
# Kontots Claude-kvoter, aktuell region
aws service-quotas list-service-quotas \
--service-code bedrock \
--query "Quotas[?contains(QuotaName,
'Claude Sonnet 5.5')].[QuotaName,Value]" \
--output table
# Ansök om höjning med kvotkoden
aws service-quotas \
request-service-quota-increase \
--service-code bedrock \
--quota-code L-XXXXXXXX \
--desired-value 12000000Provisioned Throughput och service tiers
| Alternativ | Vad ni får | Villkor |
|---|---|---|
| Provisioned Throughput | Modellenheter, var och en med en fast mängd input- och output-tokens per minut, debiterat per timme | Utan bindning, 1 månad eller 6 månader. Kapacitet och pris per enhet via er AWS account manager |
| Reserved Tier | Reserverade input- och output-tokens per minut, överspill till Standard, tillgänglighetsmål på 99,5 % | 1 eller 3 månader; minst 100 000 input- och 10 000 output-tokens per minut; via ert AWS-kontoteam |
| Priority Tier | Anrop hanteras före Standard och Flex, mot ett påslag | Ingen reservation; delar on demand-kvoten |
| Flex Tier | Rabatt för arbete som tål längre handläggningstid | Ingen reservation; delar on demand-kvoten |
Få ut mer av den kvot ni har
- Sätt
max_tokenstill förväntad output, eftersom hela värdet reserveras när varje anrop startar. - Använd prompt caching för återkommande kontext.
- Begränsa efter tokens och samtidighet. AWS varnar för att en gräns enbart på anrop per minut inte skyddar när anropens storlek ändras.
- Öka lasten stegvis och följ andelen 429, 503 och 529 på varje nivå.
- Flytta offlinearbete till batch inference och latenstolerant arbete till Flex Tier, där modellen stöder det.
Bortom ett kontos kvot
För att nå ett tillgänglighetsmål rekommenderar AWS själv begränsade omförsök och fallback över flera regioner eller modeller i er applikation. En gateway gör det arbetet åt er, över flera leverantörer.
Med Standard Compute blir ert Bedrock-konto en av flera vägar till Claude, och ni behöver inte själva ansöka om en Bedrock-kvot. Claude körs hos Anthropic och de stora molnen, och samma API når GPT, Gemini och öppna modeller som GLM, DeepSeek och MiniMax. Varje steg går till den billigaste modell som klarar det och till den billigaste leverantör som är snabb nog.
För Claude i Europa sätter ni en Europaregel för företaget, ett team eller en enskild nyckel: varje anrop, även omförsök och fallbacks, hanteras då bara av godkända europeiska inferens-endpoints. Claude Opus 5.5, Sonnet 5.5 och Haiku 5.5 körs i Europa på Google Vertex AI och Amazon Bedrock i Irland. Personuppgiftsbiträdesavtalet signerar ni i adminpanelen.
from openai import OpenAI
client = OpenAI(
base_url="https://api.stdcmpt.com/v1",
api_key=STANDARD_COMPUTE_KEY,
)
# "standardcompute" skickar varje steg till den
# billigaste modell som klarar det.
# För att låsa Claude:
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
model="standardcompute",
messages=messages,
)För Azure OpenAI-kvoter, se Azure OpenAI-kvoter och -gränser. Hur Standard Compute fungerar för företag står på AI-gateway för företag.
Flytta ert team till Standard Compute
Skapa ett företagskonto, bjud in teamet och ge varje person och varje app en egen nyckel.
Vanliga frågor
Vår Bedrock-kvot för Claude i Stockholm eller Frankfurt är för låg och ansökan om höjning har legat i veckor. Vilka alternativ med drift i Europa finns?
Inom AWS: använd den globala eller EU-baserade inference-profilen, sänk `max_tokens` och följ upp ansökan med verklig användning, eftersom AWS prioriterar konton som använder sin kvot. Utanför ert konto: Standard Compute kör Claude Opus 5.5, Sonnet 5.5 och Haiku 5.5 i Europa via Google Vertex AI och Amazon Bedrock i Irland, utan att ni behöver ansöka om en egen AWS-kvot. Med en Europaregel hanteras varje anrop, även omförsök och fallbacks, bara av godkända europeiska inferens-endpoints.
Vilka standardkvoter gäller för Claude på Amazon Bedrock?
AWS publicerar per region 30 000 000 tokens per minut via cross-region inference för Claude Opus 5.5, Opus 5 och Opus 4.8, 6 000 000 för Sonnet 5.5, Sonnet 5 och Sonnet 4.6 och 10 000 000 för Haiku 5.5. Ert kontos värden kan vara lägre; kontrollera Service Quotas.
Vad betyder ThrottlingException på Bedrock?
Kontot har överskridit en Bedrock-kvot för modellen, till exempel tokens per minut. Kontrollera värdena i Service Quotas, försök igen med backoff och jitter och ansök om en höjning om trafiken är stabil.
Varför begränsas vi när förbrukningen ser ut att ligga under kvoten?
För att output-tokens från Claude räknas 5, 10 eller 15 gånger beroende på modell, och Bedrock reserverar hela max_tokens när varje anrop startar. Sänk max_tokens och använd prompt caching, där läsningar från cachen inte räknas.
Hur lång tid tar en kvothöjning på Bedrock?
AWS anger ingen tidsram. Mindre höjningar godkänns ofta automatiskt, större granskas av AWS Support, med förtur för konton som redan använder hela sin kvot. Modeller med status Legacy eller Deprecated får inga höjningar.
Lönar sig Provisioned Throughput för Claude på Bedrock?
Bara vid förutsägbar, ihållande last. Det debiteras per timme per modellenhet, utan bindning eller för 1 eller 6 månader, och fungerar inte med inference-profiler. Alternativet för reserverade tokens per minut är Reserved Tier från 100 000 input- och 10 000 output-tokens per minut, via ert AWS-kontoteam.
Källor (kontrollerade 9 november 2026)
- Quotas for Amazon Bedrock (på engelska)docs.aws.amazon.com
- Quotas for the bedrock-runtime endpoint (på engelska)docs.aws.amazon.com
- How tokens are counted in Amazon Bedrock (på engelska)docs.aws.amazon.com
- Amazon Bedrock endpoints and quotas, AWS General Reference (på engelska)docs.aws.amazon.com
- Cross-Region inference (på engelska)docs.aws.amazon.com
- Troubleshooting Amazon Bedrock API error codes (på engelska)docs.aws.amazon.com
- Scaling and throughput best practices (på engelska)docs.aws.amazon.com
- Provisioned Throughput (på engelska)docs.aws.amazon.com
- Service tiers for inference (på engelska)docs.aws.amazon.com
- Requesting a quota increase, Service Quotas (på engelska)docs.aws.amazon.com
- Claude Code on Amazon Bedrock (på engelska)code.claude.com