Claude på Amazon Bedrock: kvoter, throttling og økninger

Kvotene som gjelder for Claude

Til tross for navnene gjelder kvotene for alle inferens-API-er som kaller modellen på bedrock-runtime, også Converse, Responses og Chat Completions. Det nyere endepunktet bedrock-mantle telles for seg, med egne kvoter for input- og output-tokens per minutt og uten kvote for forespørsler per minutt.

Publiserte standardverdier for dagens Claude-modeller

Hvorfor kvoten synker raskere enn regningen

Bedrock regner om output-tokens til kvoteforbruk med en burndown-faktor. AWS oppgir 10 ganger for Claude Opus 5.5, Sonnet 5, Opus 5 og Fable 5.1, 15 ganger for Claude-modeller i versjon 4.8 og 5 ganger for versjon 4.7 og eldre. Siden oppgir ingen egen faktor for Sonnet 5.5 eller Haiku 5.5. Dere betaler bare for tokenene som faktisk brukes.

Kvoten belastes også på forhånd. Når en forespørsel starter, trekker Bedrock fra input-tokens pluss hele max_tokens og gir den ubrukte delen tilbake til slutt. Lesing fra cachen teller ikke. AWS' formel brukt på én forespørsel til Claude Opus 5.5:

input-tokens         20 000
max_tokens           32 000
generert output       2 000

reservert ved start  52 000
  = input + max_tokens
belastet til slutt   40 000
  = input + output x 10
fakturerte tokens    22 000
  = input + output

Å sette max_tokens nær den faktiske outputstørrelsen er den billigste måten å få plass til flere samtidige forespørsler innenfor samme kvote.

Inferens på tvers av regioner

Cross-region inference sender en forespørsel gjennom en inference-profil, og Bedrock velger regionen som betjener den. Kall gjennom en profil bruker modellens cross-region-kvote, som er atskilt fra on-demand-kvoten for kall i én region.

ThrottlingException og beslektede feil

AWS' eksempel er seks forsøk totalt, den første forespørselen pluss fem nye forsøk. I boto3:

import boto3
from botocore.config import Config

config = Config(retries={
    "total_max_attempts": 6,
    "mode": "standard",
})
client = boto3.client(
    "bedrock-runtime", config=config
)

Slik ber dere om kvoteøkning

1. Åpne Service Quotas, velg Amazon Bedrock, og sjekk kontoens verdier for modellen og regionen dere kaller.
2. Sjekk først modellens livssyklus. AWS gir ikke økninger for modeller med status Legacy eller Deprecated.
3. Be om økningen på "Cross-Region InvokeModel tokens per minute" for modellen. AWS Support tilbyr da å øke on-demand-tokens per minutt og tokens per dag i samme sak.
4. Vis faktisk forbruk. Ifølge AWS prioriteres kunder med trafikk som allerede bruker den nåværende kvoten, og andre forespørsler kan bli avslått. Mindre økninger godkjennes ofte automatisk; større vurderes av AWS Support.
5. Endepunktet bedrock-mantle har sin egen prosedyre.

# Kontoens Claude-kvoter, gjeldende region
aws service-quotas list-service-quotas \
  --service-code bedrock \
  --query "Quotas[?contains(QuotaName,
    'Claude Sonnet 5.5')].[QuotaName,Value]" \
  --output table

# Be om økning med kvotekoden
aws service-quotas \
  request-service-quota-increase \
  --service-code bedrock \
  --quota-code L-XXXXXXXX \
  --desired-value 12000000

Provisioned Throughput og service tiers

Få mer ut av kvoten dere har

• Sett max_tokens til forventet output, siden hele verdien reserveres ved starten av hver forespørsel.
• Bruk prompt caching for kontekst som går igjen.
• Begrens etter tokens og samtidighet. AWS advarer om at en grense bare på forespørsler per minutt ikke beskytter når størrelsen på forespørslene endrer seg.
• Øk lasten trinnvis, og følg andelen 429, 503 og 529 på hvert nivå.
• Flytt offline-arbeid til batch inference og arbeid som tåler forsinkelse til Flex Tier, der modellen støtter det.

Utover kvoten til én konto

For å nå et oppetidsmål anbefaler AWS selv begrensede nye forsøk og fallback på tvers av regioner eller modeller i applikasjonen. En gateway gjør den jobben for dere, på tvers av flere leverandører.

Med Standard Compute blir Bedrock-kontoen deres én av flere veier til Claude, og dere trenger ikke å søke om en egen Bedrock-kvote. Claude betjenes av Anthropic og de store skyene, og samme API gir tilgang til GPT, Gemini og åpne modeller som GLM, DeepSeek og MiniMax. Hvert steg går til den billigste modellen som kan løse det, og til den billigste leverandøren som er rask nok.

For Claude i Europa setter dere en Europa-regel for bedriften, et team eller én enkelt nøkkel: hver forespørsel, også nye forsøk og fallbacks, betjenes da bare av godkjente europeiske inferens-endepunkter. Claude Opus 5.5, Sonnet 5.5 og Haiku 5.5 kjører i Europa på Google Vertex AI og Amazon Bedrock i Irland. Databehandleravtalen signerer dere i dashbordet. Standard Compute AS er et norsk selskap med hovedkontor i Oslo.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.stdcmpt.com/v1",
    api_key=STANDARD_COMPUTE_KEY,
)

# "standardcompute" sender hvert steg til den
# billigste modellen som kan løse det.
# For å låse Claude:
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
    model="standardcompute",
    messages=messages,
)

For Azure OpenAI-kvoter, se Azure OpenAI-kvoter og -grenser. Hvordan Standard Compute fungerer for bedrifter, står på KI-gateway for bedrifter.

Vanlige spørsmål

Kilder (kontrollert 9. november 2026)

1. Quotas for Amazon Bedrock (på engelsk)docs.aws.amazon.com
2. Quotas for the bedrock-runtime endpoint (på engelsk)docs.aws.amazon.com
3. How tokens are counted in Amazon Bedrock (på engelsk)docs.aws.amazon.com
4. Amazon Bedrock endpoints and quotas, AWS General Reference (på engelsk)docs.aws.amazon.com
5. Cross-Region inference (på engelsk)docs.aws.amazon.com
6. Troubleshooting Amazon Bedrock API error codes (på engelsk)docs.aws.amazon.com
7. Scaling and throughput best practices (på engelsk)docs.aws.amazon.com
8. Provisioned Throughput (på engelsk)docs.aws.amazon.com
9. Service tiers for inference (på engelsk)docs.aws.amazon.com
10. Requesting a quota increase, Service Quotas (på engelsk)docs.aws.amazon.com
11. Claude Code on Amazon Bedrock (på engelsk)code.claude.com

Les videre

• KI-gateway for bedrifter
• Azure OpenAI-kvoter og -grenser
• Europeisk KI-gateway