Claude auf Amazon Bedrock: Kontingente, Throttling und Erhöhungen

Diese Kontingente gelten für Claude

Trotz der Namen gelten diese Kontingente für jede Inferenz-API, die das Modell über bedrock-runtime aufruft, auch Converse, Responses und Chat Completions. Der neuere Endpunkt bedrock-mantle wird getrennt gezählt, mit eigenen Kontingenten für Input- und Output-Tokens pro Minute und ohne Kontingent für Anfragen pro Minute.

Veröffentlichte Standardwerte für aktuelle Claude-Modelle

Warum das Kontingent schneller sinkt als die Rechnung

Bedrock rechnet Output-Tokens mit einem festen Faktor (Burndown) in Kontingentverbrauch um. AWS nennt 10-fach für Claude Opus 5.5, Sonnet 5, Opus 5 und Fable 5.1, 15-fach für Claude-Modelle der Version 4.8 und 5-fach für Version 4.7 und älter. Für Sonnet 5.5 und Haiku 5.5 nennt die Seite keine eigene Rate. Abgerechnet werden nur die tatsächlich genutzten Tokens.

Das Kontingent wird außerdem im Voraus belastet. Beim Start einer Anfrage zieht Bedrock die Input-Tokens plus den vollen max_tokens-Wert ab und gibt den ungenutzten Teil am Ende zurück. Cache-Lesezugriffe zählen nicht. So sieht die Formel von AWS für eine Anfrage an Claude Opus 5.5 aus:

Input-Tokens           20.000
max_tokens             32.000
erzeugter Output        2.000

reserviert beim Start  52.000
  = input + max_tokens
belastet am Ende       40.000
  = input + output x 10
abgerechnete Tokens    22.000
  = input + output

max_tokens nah an die tatsächliche Ausgabegröße zu setzen, ist der günstigste Weg, mehr parallele Anfragen im selben Kontingent unterzubringen.

Regionsübergreifende Inferenz

Regionsübergreifende Inferenz schickt eine Anfrage über ein Inferenzprofil, und Bedrock wählt die Region, die sie bedient. Aufrufe über ein Profil nutzen das regionsübergreifende Kontingent des Modells, das vom On-Demand-Kontingent für Aufrufe in einer Region getrennt ist.

ThrottlingException und verwandte Fehler

AWS nennt als Beispiel sechs Versuche insgesamt, die erste Anfrage plus fünf Wiederholungen. In boto3:

import boto3
from botocore.config import Config

config = Config(retries={
    "total_max_attempts": 6,
    "mode": "standard",
})
client = boto3.client(
    "bedrock-runtime", config=config
)

So beantragen Sie eine Kontingenterhöhung

1. Öffnen Sie Service Quotas, wählen Sie Amazon Bedrock und prüfen Sie die Werte Ihres Kontos für das Modell und die Region, die Sie aufrufen.
2. Prüfen Sie zuerst den Lebenszyklus des Modells. Für veraltete (Legacy) oder abgekündigte (Deprecated) Modelle gewährt AWS keine Erhöhungen.
3. Beantragen Sie die Erhöhung für "Cross-Region InvokeModel tokens per minute" des Modells. Der AWS Support bietet dann an, im selben Fall auch die On-Demand-Tokens pro Minute und die Tokens pro Tag anzuheben.
4. Belegen Sie Ihre tatsächliche Nutzung. Laut AWS haben Kunden Vorrang, deren Datenverkehr das bestehende Kontingent bereits ausschöpft; andere Anfragen können abgelehnt werden. Kleinere Erhöhungen werden oft automatisch genehmigt, größere prüft der AWS Support.
5. Für den Endpunkt bedrock-mantle gilt ein eigenes Verfahren.

# Claude-Kontingente des Kontos, aktuelle Region
aws service-quotas list-service-quotas \
  --service-code bedrock \
  --query "Quotas[?contains(QuotaName,
    'Claude Sonnet 5.5')].[QuotaName,Value]" \
  --output table

# Erhöhung mit dem Kontingentcode beantragen
aws service-quotas \
  request-service-quota-increase \
  --service-code bedrock \
  --quota-code L-XXXXXXXX \
  --desired-value 12000000

Provisioned Throughput und Service-Tiers

Mehr aus dem vorhandenen Kontingent holen

• Setzen Sie max_tokens auf die erwartete Ausgabe, denn der volle Wert wird beim Start jeder Anfrage reserviert.
• Nutzen Sie Prompt Caching für wiederkehrenden Kontext.
• Begrenzen Sie nach Tokens und Parallelität. AWS warnt, dass ein Limit nur auf Anfragen pro Minute nicht schützt, wenn sich die Anfragegröße ändert.
• Fahren Sie die Last stufenweise hoch und beobachten Sie auf jeder Stufe die Raten für 429, 503 und 529.
• Verlagern Sie Offline-Arbeit in Batch-Inferenz und latenztolerante Arbeit in den Flex Tier, wo das Modell ihn unterstützt.

Über das Kontingent eines Kontos hinaus

Für ein Verfügbarkeitsziel rät AWS selbst zu begrenzten Wiederholungen und zu Fallbacks über mehrere Regionen oder Modelle in Ihrer Anwendung. Ein Gateway übernimmt diese Arbeit, über mehrere Anbieter hinweg.

Mit Standard Compute wird Ihr Bedrock-Konto zu einem von mehreren Wegen für Claude, und Sie müssen kein eigenes AWS-Kontingent beantragen. Claude wird über Anthropic und die großen Clouds bedient, und dieselbe API erreicht GPT, Gemini und offene Modelle wie GLM, DeepSeek und MiniMax. Jeder Schritt geht an das günstigste Modell, das ihn erledigen kann, und an den günstigsten Anbieter, der schnell genug ist.

Für Claude in Europa legen Sie eine Europa-Regel für das Unternehmen, ein Team oder einen einzelnen Schlüssel fest: Jede Anfrage, einschließlich Wiederholungen und Fallbacks, wird dann nur von freigegebenen europäischen Inferenz-Endpunkten bedient. Claude Opus 5.5, Sonnet 5.5 und Haiku 5.5 laufen in Europa auf Google Vertex AI und Amazon Bedrock in Irland. Den AVV unterschreiben Sie im Dashboard.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.stdcmpt.com/v1",
    api_key=STANDARD_COMPUTE_KEY,
)

# "standardcompute" schickt jeden Schritt an das
# günstigste Modell, das ihn erledigen kann.
# Um Claude fest zu wählen:
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
    model="standardcompute",
    messages=messages,
)

Für die Kontingente von Azure OpenAI siehe Azure OpenAI Kontingente. Wie Standard Compute für Unternehmen funktioniert, steht auf KI-Gateway für Unternehmen.

Häufige Fragen

Quellen (geprüft am 9. November 2026)

1. Kontingente für Amazon Bedrockdocs.aws.amazon.com
2. Kontingente für den Bedrock-Runtime-Endpunktdocs.aws.amazon.com
3. So werden Token in Amazon Bedrock gezähltdocs.aws.amazon.com
4. Endpunkte und Kontingente von Amazon Bedrock (AWS Allgemeine Referenz)docs.aws.amazon.com
5. Regionsübergreifende Inferenzdocs.aws.amazon.com
6. Beheben der API-Fehlercodes von Amazon Bedrockdocs.aws.amazon.com
7. Bewährte Methoden für Skalierung und Durchsatzdocs.aws.amazon.com
8. Provisioned Throughput in Amazon Bedrockdocs.aws.amazon.com
9. Servicestufen für die Inferenzdocs.aws.amazon.com
10. Beantragen einer Kontingenterhöhung (Service Quotas)docs.aws.amazon.com
11. Claude Code auf Amazon Bedrockcode.claude.com

Weiterlesen

• KI-Gateway für Unternehmen
• Azure OpenAI Kontingente und Limits
• KI-Gateway mit Verarbeitung in Europa