Claude sur Amazon Bedrock : quotas, throttling et hausses de quota

Ce qui limite Claude sur Amazon Bedrock, les quotas par défaut publiés par AWS, pourquoi le throttling commence plus tôt que ne le laisse penser la facture, et comment obtenir plus de débit. Chaque fait sur AWS cité ici provient de la documentation d'AWS, en lien plus bas.

Créer un espace entrepriseou écrivez à contact@standardcompute.com

Standard Compute · Sources vérifiées le 9 novembre 2026

L'essentiel

Amazon Bedrock limite Claude en jetons par minute, par modèle et par région, entrée et sortie comptées ensemble. Certains modèles ont aussi un quota de requêtes par minute, et chaque compte a un plafond quotidien de jetons.

Chaque jeton de sortie de Claude compte 5, 10 ou 15 fois dans le quota selon le modèle, et la valeur max_tokens est réservée dès le début de la requête : le throttling commence bien avant que les jetons facturés atteignent le quota.

Une ThrottlingException est un HTTP 429 : votre compte a dépassé un quota Bedrock. AWS recommande un backoff exponentiel avec jitter, une hausse de quota, et le Reserved Tier ou le débit provisionné pour une charge soutenue.

Les hausses importantes passent par AWS Support. AWS donne la priorité aux comptes qui consomment déjà leur quota et peut refuser les autres demandes.

Sur Standard Compute, Claude est servi par plusieurs clouds : le quota ou la panne d'un fournisseur n'arrête pas votre travail, et une requête limitée ou en échec part automatiquement vers un autre fournisseur du même modèle.

Les quotas qui s'appliquent à Claude

Quotas Amazon Bedrock sur le point de terminaison bedrock-runtime
Quota (nom AWS)PortéeCe qu'il compte
Cross-Region InvokeModel tokens per minutePar modèle, par régionJetons d'entrée et de sortie ensemble, pour les appels via un profil d'inférence interrégional
On-demand InvokeModel tokens per minutePar modèle, par régionJetons d'entrée et de sortie ensemble, pour les appels à la demande dans une seule région
InvokeModel requests per minutePar modèle, par régionRequêtes par minute, pour les modèles qui en ont un ; Claude Opus 4.7 et 4.8 n'en ont pas
Cross-Model Max Tokens Per DayPar compte, par régionJetons par jour sur l'ensemble des modèles pris en charge

Malgré leur nom, ces quotas couvrent toutes les API d'inférence qui appellent le modèle sur bedrock-runtime, dont Converse, Responses et Chat Completions. Le point de terminaison plus récent bedrock-mantle est compté à part, avec des quotas distincts de jetons d'entrée et de sortie par minute et sans quota de requêtes par minute.

Valeurs par défaut publiées pour les modèles Claude actuels

Quotas Bedrock par défaut pour Claude, dans chaque région prise en charge
ModèleInterrégional, jetons par minuteInterrégional global, jetons par minuteInterrégional, requêtes par minute
Claude Opus 5.530 000 00030 000 000Non publié
Claude Opus 530 000 00030 000 000Non publié
Claude Opus 4.830 000 00030 000 000Pas de quota RPM
Claude Sonnet 5.56 000 0006 000 000Non publié
Claude Sonnet 56 000 0006 000 000Non publié
Claude Sonnet 4.66 000 0006 000 00010 000
Claude Haiku 5.510 000 00010 000 000Non publié
Claude Haiku 4.55 000 0005 000 00010 000
D'après le tableau des quotas Amazon Bedrock de la Référence générale AWS ; toutes les valeurs ci-dessus sont ajustables. Cross-Model Max Tokens Per Day vaut 700 000 000 par défaut et n'est pas ajustable. AWS précise que les quotas appliqués à votre compte peuvent être plus bas, selon la région, l'ancienneté du compte et l'historique d'usage et de paiement. Service Quotas affiche vos vraies valeurs.

Pourquoi le quota baisse plus vite que la facture

Bedrock convertit les jetons de sortie en consommation de quota selon un taux de burndown. AWS indique 10 fois pour Claude Opus 5.5, Sonnet 5, Opus 5 et Fable 5.1, 15 fois pour les modèles Claude en version 4.8 et 5 fois pour les versions 4.7 et antérieures. La page ne donne pas de taux propre pour Sonnet 5.5 ni Haiku 5.5. Seuls les jetons réellement utilisés sont facturés.

Le quota est aussi débité d'avance. Au début d'une requête, Bedrock déduit les jetons d'entrée plus la valeur complète de max_tokens, puis restitue la part inutilisée à la fin. Les lectures de cache ne comptent pas. La formule d'AWS appliquée à une requête Claude Opus 5.5 :

calcul de quota, Claude Opus 5.5 (burndown de sortie x 10)
jetons d'entrée   20 000
max_tokens        32 000
sortie générée     2 000

réservé au début  52 000
  = input + max_tokens
débité à la fin   40 000
  = input + output x 10
jetons facturés   22 000
  = input + output

Régler max_tokens au plus près de la sortie réelle est le moyen le moins cher de faire tenir plus de requêtes simultanées dans le même quota.

Inférence interrégionale

L'inférence interrégionale envoie une requête via un profil d'inférence, et Bedrock choisit la région qui la sert. Les appels via un profil utilisent le quota interrégional du modèle, distinct du quota à la demande des appels dans une seule région.

Inférence interrégionale géographique et globale
ProfilOù les requêtes s'exécutentPrix
Géographique (US, UE, APAC)Dans les régions de cette zone listées dans le profilPrix standard
GlobalDans toute région commerciale AWS prise en chargeEnviron 10 % moins cher, selon AWS
AWS ne facture pas de routage supplémentaire et journalise la région qui a servi la requête dans CloudTrail, sous additionalEventData.inferenceRegion. Les profils d'inférence ne prennent pas en charge le débit provisionné.

ThrottlingException et les erreurs voisines

Erreurs de throttling et de capacité de Bedrock
ErreurHTTPSignificationRecommandation d'AWS
ThrottlingException429La requête a dépassé les quotas Bedrock de votre compteRéessayer avec backoff exponentiel et jitter, vérifier les quotas, demander une hausse, ou Reserved Tier et débit provisionné pour une charge soutenue
ModelNotReadyException429Certaines opérations d'exécution renvoient aussi 429 pour ce casLire le type d'erreur, pas seulement le code
ServiceUnavailable503Contrainte de capacité temporaire, sans lien avec votre quotaPatienter et réessayer ; si cela persiste, changer de région ou passer par l'inférence interrégionale
overloaded_error529Le modèle manque de capacité à ce momentRespecter Retry-After, éviter les nouvelles tentatives synchronisées, passer par l'inférence interrégionale

Le budget d'exemple d'AWS est de six tentatives au total, la requête initiale plus cinq nouvelles tentatives. Avec boto3 :

python
import boto3
from botocore.config import Config

config = Config(retries={
    "total_max_attempts": 6,
    "mode": "standard",
})
client = boto3.client(
    "bedrock-runtime", config=config
)

Demander une hausse de quota

  1. Ouvrez Service Quotas, choisissez Amazon Bedrock et vérifiez les valeurs appliquées à votre compte pour le modèle et la région que vous appelez.
  2. Vérifiez d'abord le cycle de vie du modèle. AWS n'accorde pas de hausse pour les modèles Legacy ou Deprecated.
  3. Demandez la hausse sur "Cross-Region InvokeModel tokens per minute" pour le modèle. AWS Support propose alors de relever aussi les quotas de jetons à la demande par minute et par jour dans le même dossier.
  4. Montrez un usage réel. Selon AWS, la priorité va aux clients dont le trafic consomme déjà le quota existant, et les autres demandes peuvent être refusées. Les petites hausses sont souvent accordées automatiquement ; les plus importantes sont examinées par AWS Support.
  5. Le point de terminaison bedrock-mantle suit sa propre procédure.
terminal
# Quotas Claude appliqués, région courante
aws service-quotas list-service-quotas \
  --service-code bedrock \
  --query "Quotas[?contains(QuotaName,
    'Claude Sonnet 5.5')].[QuotaName,Value]" \
  --output table

# Demander une hausse avec le code du quota
aws service-quotas \
  request-service-quota-increase \
  --service-code bedrock \
  --quota-code L-XXXXXXXX \
  --desired-value 12000000

Débit provisionné et niveaux de service

Options de capacité Bedrock au-delà de la demande
OptionCe que vous obtenezConditions
Débit provisionnéDes unités de modèle, chacune avec un débit fixe de jetons d'entrée et de sortie par minute, facturées à l'heureSans engagement, 1 mois ou 6 mois. Débit et prix par unité auprès de votre account manager AWS
Reserved TierJetons d'entrée et de sortie réservés par minute, débordement en Standard, objectif de disponibilité de 99,5 %1 ou 3 mois ; au moins 100 000 jetons d'entrée et 10 000 de sortie par minute ; via votre équipe de compte AWS
Priority TierRequêtes servies avant Standard et Flex, avec un supplémentSans réservation ; partage le quota à la demande
Flex TierUne remise pour les travaux qui tolèrent un traitement plus longSans réservation ; partage le quota à la demande
La prise en charge dépend du modèle et de la région ; la fiche de chaque modèle dans la documentation Bedrock liste ses niveaux. Claude Code sur Bedrock choisit le niveau avec ANTHROPIC_BEDROCK_SERVICE_TIER.

Tirer plus du quota dont vous disposez

  • Baissez max_tokens à la sortie attendue, puisque la valeur complète est réservée au début de chaque requête.
  • Utilisez le cache de prompts pour le contexte répété.
  • Limitez par jetons et par concurrence. AWS prévient qu'un limiteur sur les seules requêtes par minute ne protège pas quand la taille des requêtes varie.
  • Montez en charge par paliers et observez à chaque palier les taux de 429, 503 et 529.
  • Passez les traitements hors ligne en inférence par lots, et les travaux tolérants à la latence en Flex Tier quand le modèle le permet.

Aller au-delà du quota d'un seul compte

Pour tenir un objectif de disponibilité, AWS conseille lui-même des nouvelles tentatives bornées et un repli multirégion ou multimodèle dans votre application. Une passerelle fait ce travail pour vous, sur plusieurs fournisseurs.

Avec Standard Compute, votre compte Bedrock devient un chemin parmi d'autres pour Claude, sans quota AWS à demander de votre côté. Claude est servi par Anthropic et les grands clouds, et la même API donne accès à GPT, Gemini et à des modèles ouverts comme GLM, DeepSeek et MiniMax. Chaque étape va au modèle le moins cher capable de la faire et au fournisseur le moins cher assez rapide pour la servir.

Pour Claude en Europe, définissez une règle Europe pour l'entreprise, une équipe ou une seule clé : chaque requête, y compris les nouvelles tentatives et les replis, n'est alors servie que par des points de terminaison d'inférence européens approuvés. Claude Opus 5.5, Sonnet 5.5 et Haiku 5.5 tournent en Europe sur Google Vertex AI et Amazon Bedrock en Irlande. Vous signez notre DPA dans le tableau de bord.

python
from openai import OpenAI

client = OpenAI(
    base_url="https://api.stdcmpt.com/v1",
    api_key=STANDARD_COMPUTE_KEY,
)

# "standardcompute" envoie chaque étape au
# modèle le moins cher capable de la faire.
# Pour imposer Claude :
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
    model="standardcompute",
    messages=messages,
)

Pour les quotas d'Azure OpenAI, voir Quotas Azure OpenAI. Pour Standard Compute en entreprise, voir Passerelle IA pour les entreprises.

Passez votre équipe sur Standard Compute

Créez un espace entreprise, invitez votre équipe et donnez à chaque personne et à chaque application sa propre clé.

Créer un espace entrepriseStandard Compute pour les entreprises

Questions fréquentes

AWS Bedrock nous renvoie des ThrottlingException sur Claude et la hausse de quota traîne. Comment font les autres entreprises pour scaler ?

Dans AWS : profil d'inférence global ou UE, `max_tokens` au plus près de la sortie, cache de prompts, et une demande de hausse appuyée sur l'usage réel, puisque AWS privilégie les comptes qui consomment leur quota. Au-delà d'un compte : passer par une passerelle comme Standard Compute, qui sert Claude depuis plusieurs fournisseurs et bascule une requête limitée vers un autre fournisseur du même modèle, sans quota AWS à demander.

Quels sont les quotas Amazon Bedrock par défaut pour Claude ?

AWS publie par région 30 000 000 jetons par minute en inférence interrégionale pour Claude Opus 5.5, Opus 5 et Opus 4.8, 6 000 000 pour Sonnet 5.5, Sonnet 5 et Sonnet 4.6, et 10 000 000 pour Haiku 5.5. Les valeurs de votre compte peuvent être plus basses ; vérifiez Service Quotas.

Que signifie ThrottlingException sur Bedrock ?

Votre compte a dépassé un quota Bedrock pour ce modèle, par exemple les jetons par minute. Vérifiez les valeurs appliquées dans Service Quotas, réessayez avec backoff et jitter, et demandez une hausse si le trafic est régulier.

Pourquoi sommes-nous limités alors que la consommation semble sous le quota ?

Parce que les jetons de sortie de Claude comptent 5, 10 ou 15 fois selon le modèle, et que Bedrock réserve la valeur complète de max_tokens au début de chaque requête. Baissez max_tokens et utilisez le cache de prompts, dont les lectures ne comptent pas.

Existe-t-il une alternative avec hébergement en Europe ?

Standard Compute sert Claude Opus 5.5, Sonnet 5.5 et Haiku 5.5 en Europe via Google Vertex AI et Amazon Bedrock en Irlande. Avec une règle Europe, chaque requête, y compris les nouvelles tentatives et les replis, n'est servie que par des points de terminaison d'inférence européens approuvés, et si aucun ne peut la servir, elle est refusée avant l'envoi de votre prompt.

Faut-il acheter du débit provisionné pour Claude sur Bedrock ?

Seulement pour une charge prévisible et soutenue. Il est facturé à l'heure par unité de modèle, sans engagement ou sur 1 ou 6 mois, et ne fonctionne pas avec les profils d'inférence. L'alternative pour des jetons réservés par minute est le Reserved Tier, dès 100 000 jetons d'entrée et 10 000 de sortie par minute, via votre équipe de compte AWS.

Sources (vérifiées le 9 novembre 2026)

  1. Quotas pour Amazon Bedrockdocs.aws.amazon.com
  2. Quotas pour le point de terminaison bedrock-runtimedocs.aws.amazon.com
  3. Mode de comptabilisation des jetons dans Amazon Bedrockdocs.aws.amazon.com
  4. Points de terminaison et quotas Amazon Bedrock (Référence générale AWS)docs.aws.amazon.com
  5. Inférence interrégionaledocs.aws.amazon.com
  6. Résolution des codes d'erreur d'API Amazon Bedrockdocs.aws.amazon.com
  7. Meilleures pratiques de mise à l'échelle et de débitdocs.aws.amazon.com
  8. Débit provisionné dans Amazon Bedrockdocs.aws.amazon.com
  9. Niveaux de service pour l'inférencedocs.aws.amazon.com
  10. Demande d'augmentation de quota (Service Quotas)docs.aws.amazon.com
  11. Claude Code sur Amazon Bedrockcode.claude.com