Claude op Amazon Bedrock: quota, throttling en verhogingen

De quota die voor Claude gelden

Ondanks de namen gelden deze quota voor elke inferentie-API die het model op bedrock-runtime aanroept, ook Converse, Responses en Chat Completions. Het nieuwere endpoint bedrock-mantle telt apart, met eigen quota voor input- en outputtokens per minuut en zonder quotum voor verzoeken per minuut.

Gepubliceerde standaardwaarden voor de huidige Claude-modellen

Waarom het quotum sneller daalt dan de factuur

Bedrock rekent outputtokens met een burndown-factor om naar quotaverbruik. AWS noemt 10 keer voor Claude Opus 5.5, Sonnet 5, Opus 5 en Fable 5.1, 15 keer voor Claude-modellen van versie 4.8 en 5 keer voor versie 4.7 en ouder. Voor Sonnet 5.5 en Haiku 5.5 noemt de pagina geen eigen factor. Gefactureerd worden alleen de werkelijk gebruikte tokens.

Het quotum wordt ook vooraf belast. Bij de start van een verzoek trekt Bedrock de inputtokens plus de volledige max_tokens af, en geeft het ongebruikte deel aan het eind terug. Cachereads tellen niet mee. De formule van AWS toegepast op één verzoek aan Claude Opus 5.5:

inputtokens             20.000
max_tokens              32.000
gegenereerde output      2.000

gereserveerd bij start  52.000
  = input + max_tokens
belast aan het eind     40.000
  = input + output x 10
gefactureerde tokens    22.000
  = input + output

max_tokens dicht bij de werkelijke outputgrootte zetten is de goedkoopste manier om meer gelijktijdige verzoeken in hetzelfde quotum te passen.

Cross-region inference

Cross-region inference stuurt een verzoek via een inference-profiel, en Bedrock kiest de regio die het bedient. Aanroepen via een profiel gebruiken het cross-region quotum van het model, los van het on-demand quotum voor aanroepen in één regio.

ThrottlingException en verwante fouten

Het voorbeeldbudget van AWS is zes pogingen in totaal, het eerste verzoek plus vijf retries. In boto3:

import boto3
from botocore.config import Config

config = Config(retries={
    "total_max_attempts": 6,
    "mode": "standard",
})
client = boto3.client(
    "bedrock-runtime", config=config
)

Een quotaverhoging aanvragen

1. Open Service Quotas, kies Amazon Bedrock en controleer de waarden van uw account voor het model en de regio die u aanroept.
2. Controleer eerst de levenscyclus van het model. AWS verhoogt geen quota voor Legacy- of Deprecated-modellen.
3. Vraag de verhoging aan op "Cross-Region InvokeModel tokens per minute" voor het model. AWS Support biedt dan aan om in dezelfde case ook de on-demand tokens per minuut en per dag te verhogen.
4. Laat echt gebruik zien. Volgens AWS gaat voorrang naar klanten wier verkeer het bestaande quotum al opmaakt, en kunnen andere aanvragen worden geweigerd. Kleine verhogingen worden vaak automatisch goedgekeurd; grote beoordeelt AWS Support.
5. Voor het endpoint bedrock-mantle geldt een eigen procedure.

# Toegepaste Claude-quota, huidige regio
aws service-quotas list-service-quotas \
  --service-code bedrock \
  --query "Quotas[?contains(QuotaName,
    'Claude Sonnet 5.5')].[QuotaName,Value]" \
  --output table

# Verhoging aanvragen met de quotacode
aws service-quotas \
  request-service-quota-increase \
  --service-code bedrock \
  --quota-code L-XXXXXXXX \
  --desired-value 12000000

Provisioned Throughput en service tiers

Meer halen uit het quotum dat u hebt

• Zet max_tokens op de verwachte output, want de volledige waarde wordt bij de start van elk verzoek gereserveerd.
• Gebruik prompt caching voor terugkerende context.
• Begrens op tokens en gelijktijdigheid. AWS waarschuwt dat een limiet op alleen verzoeken per minuut niet beschermt als de verzoekgrootte verandert.
• Schaal in stappen op en houd op elk niveau de percentages 429, 503 en 529 in de gaten.
• Verplaats offline werk naar batch inference en latentietolerant werk naar de Flex Tier, waar het model die ondersteunt.

Voorbij het quotum van één account

Voor een beschikbaarheidsdoel raadt AWS zelf begrensde retries en fallback over meerdere regio's of modellen in uw applicatie aan. Een gateway doet dat werk voor u, over meerdere providers.

Met Standard Compute wordt uw Bedrock-account één van meerdere routes voor Claude, en hoeft u zelf geen Bedrock-quotum aan te vragen. Claude wordt bediend door Anthropic en de grote clouds, en dezelfde API bereikt GPT, Gemini en open modellen als GLM, DeepSeek en MiniMax. Elke stap gaat naar het goedkoopste model dat hem aankan, en naar de goedkoopste aanbieder die snel genoeg is.

Voor Claude in Europa stelt u een Europa-regel in voor het bedrijf, een team of één sleutel: elk verzoek, inclusief retries en fallbacks, wordt dan alleen bediend door goedgekeurde Europese inferentie-endpoints. Claude Opus 5.5, Sonnet 5.5 en Haiku 5.5 draaien in Europa op Google Vertex AI en Amazon Bedrock in Ierland. De verwerkersovereenkomst tekent u in het dashboard.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.stdcmpt.com/v1",
    api_key=STANDARD_COMPUTE_KEY,
)

# "standardcompute" stuurt elke stap naar het
# goedkoopste model dat hem aankan.
# Om Claude vast te zetten:
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
    model="standardcompute",
    messages=messages,
)

Voor de quota van Azure OpenAI, zie Azure OpenAI quota. Hoe Standard Compute voor bedrijven werkt, staat op AI-gateway voor bedrijven.

Veelgestelde vragen

Bronnen (gecontroleerd op 9 november 2026)

1. Quotas for Amazon Bedrock (Engels)docs.aws.amazon.com
2. Quotas for the bedrock-runtime endpoint (Engels)docs.aws.amazon.com
3. How tokens are counted in Amazon Bedrock (Engels)docs.aws.amazon.com
4. Amazon Bedrock service quotas, AWS General Reference (Engels)docs.aws.amazon.com
5. Cross-Region inference (Engels)docs.aws.amazon.com
6. Troubleshooting Amazon Bedrock API error codes (Engels)docs.aws.amazon.com
7. Scaling and throughput best practices (Engels)docs.aws.amazon.com
8. Provisioned Throughput (Engels)docs.aws.amazon.com
9. Service tiers for inference (Engels)docs.aws.amazon.com
10. Requesting a quota increase, Service Quotas (Engels)docs.aws.amazon.com
11. Claude Code on Amazon Bedrock (Engels)code.claude.com

Verder lezen

• AI-gateway voor bedrijven
• Azure OpenAI quota en limieten
• LLM-API met inferentie in Europa (AVG)