L'essentiel
Amazon Bedrock limite Claude en jetons par minute, par modèle et par région, entrée et sortie comptées ensemble. Certains modèles ont aussi un quota de requêtes par minute, et chaque compte a un plafond quotidien de jetons.
Chaque jeton de sortie de Claude compte 5, 10 ou 15 fois dans le quota selon le modèle, et la valeur max_tokens est réservée dès le début de la requête : le throttling commence bien avant que les jetons facturés atteignent le quota.
Une ThrottlingException est un HTTP 429 : votre compte a dépassé un quota Bedrock. AWS recommande un backoff exponentiel avec jitter, une hausse de quota, et le Reserved Tier ou le débit provisionné pour une charge soutenue.
Les hausses importantes passent par AWS Support. AWS donne la priorité aux comptes qui consomment déjà leur quota et peut refuser les autres demandes.
Sur Standard Compute, Claude est servi par plusieurs clouds : le quota ou la panne d'un fournisseur n'arrête pas votre travail, et une requête limitée ou en échec part automatiquement vers un autre fournisseur du même modèle.
Les quotas qui s'appliquent à Claude
| Quota (nom AWS) | Portée | Ce qu'il compte |
|---|---|---|
Cross-Region InvokeModel tokens per minute | Par modèle, par région | Jetons d'entrée et de sortie ensemble, pour les appels via un profil d'inférence interrégional |
On-demand InvokeModel tokens per minute | Par modèle, par région | Jetons d'entrée et de sortie ensemble, pour les appels à la demande dans une seule région |
InvokeModel requests per minute | Par modèle, par région | Requêtes par minute, pour les modèles qui en ont un ; Claude Opus 4.7 et 4.8 n'en ont pas |
Cross-Model Max Tokens Per Day | Par compte, par région | Jetons par jour sur l'ensemble des modèles pris en charge |
Malgré leur nom, ces quotas couvrent toutes les API d'inférence qui appellent le modèle sur bedrock-runtime, dont Converse, Responses et Chat Completions. Le point de terminaison plus récent bedrock-mantle est compté à part, avec des quotas distincts de jetons d'entrée et de sortie par minute et sans quota de requêtes par minute.
Valeurs par défaut publiées pour les modèles Claude actuels
| Modèle | Interrégional, jetons par minute | Interrégional global, jetons par minute | Interrégional, requêtes par minute |
|---|---|---|---|
| Claude Opus 5.5 | 30 000 000 | 30 000 000 | Non publié |
| Claude Opus 5 | 30 000 000 | 30 000 000 | Non publié |
| Claude Opus 4.8 | 30 000 000 | 30 000 000 | Pas de quota RPM |
| Claude Sonnet 5.5 | 6 000 000 | 6 000 000 | Non publié |
| Claude Sonnet 5 | 6 000 000 | 6 000 000 | Non publié |
| Claude Sonnet 4.6 | 6 000 000 | 6 000 000 | 10 000 |
| Claude Haiku 5.5 | 10 000 000 | 10 000 000 | Non publié |
| Claude Haiku 4.5 | 5 000 000 | 5 000 000 | 10 000 |
Pourquoi le quota baisse plus vite que la facture
Bedrock convertit les jetons de sortie en consommation de quota selon un taux de burndown. AWS indique 10 fois pour Claude Opus 5.5, Sonnet 5, Opus 5 et Fable 5.1, 15 fois pour les modèles Claude en version 4.8 et 5 fois pour les versions 4.7 et antérieures. La page ne donne pas de taux propre pour Sonnet 5.5 ni Haiku 5.5. Seuls les jetons réellement utilisés sont facturés.
Le quota est aussi débité d'avance. Au début d'une requête, Bedrock déduit les jetons d'entrée plus la valeur complète de max_tokens, puis restitue la part inutilisée à la fin. Les lectures de cache ne comptent pas. La formule d'AWS appliquée à une requête Claude Opus 5.5 :
jetons d'entrée 20 000
max_tokens 32 000
sortie générée 2 000
réservé au début 52 000
= input + max_tokens
débité à la fin 40 000
= input + output x 10
jetons facturés 22 000
= input + outputRégler max_tokens au plus près de la sortie réelle est le moyen le moins cher de faire tenir plus de requêtes simultanées dans le même quota.
Inférence interrégionale
L'inférence interrégionale envoie une requête via un profil d'inférence, et Bedrock choisit la région qui la sert. Les appels via un profil utilisent le quota interrégional du modèle, distinct du quota à la demande des appels dans une seule région.
| Profil | Où les requêtes s'exécutent | Prix |
|---|---|---|
| Géographique (US, UE, APAC) | Dans les régions de cette zone listées dans le profil | Prix standard |
| Global | Dans toute région commerciale AWS prise en charge | Environ 10 % moins cher, selon AWS |
ThrottlingException et les erreurs voisines
| Erreur | HTTP | Signification | Recommandation d'AWS |
|---|---|---|---|
| ThrottlingException | 429 | La requête a dépassé les quotas Bedrock de votre compte | Réessayer avec backoff exponentiel et jitter, vérifier les quotas, demander une hausse, ou Reserved Tier et débit provisionné pour une charge soutenue |
| ModelNotReadyException | 429 | Certaines opérations d'exécution renvoient aussi 429 pour ce cas | Lire le type d'erreur, pas seulement le code |
| ServiceUnavailable | 503 | Contrainte de capacité temporaire, sans lien avec votre quota | Patienter et réessayer ; si cela persiste, changer de région ou passer par l'inférence interrégionale |
| overloaded_error | 529 | Le modèle manque de capacité à ce moment | Respecter Retry-After, éviter les nouvelles tentatives synchronisées, passer par l'inférence interrégionale |
Le budget d'exemple d'AWS est de six tentatives au total, la requête initiale plus cinq nouvelles tentatives. Avec boto3 :
import boto3
from botocore.config import Config
config = Config(retries={
"total_max_attempts": 6,
"mode": "standard",
})
client = boto3.client(
"bedrock-runtime", config=config
)Demander une hausse de quota
- Ouvrez Service Quotas, choisissez Amazon Bedrock et vérifiez les valeurs appliquées à votre compte pour le modèle et la région que vous appelez.
- Vérifiez d'abord le cycle de vie du modèle. AWS n'accorde pas de hausse pour les modèles Legacy ou Deprecated.
- Demandez la hausse sur "Cross-Region InvokeModel tokens per minute" pour le modèle. AWS Support propose alors de relever aussi les quotas de jetons à la demande par minute et par jour dans le même dossier.
- Montrez un usage réel. Selon AWS, la priorité va aux clients dont le trafic consomme déjà le quota existant, et les autres demandes peuvent être refusées. Les petites hausses sont souvent accordées automatiquement ; les plus importantes sont examinées par AWS Support.
- Le point de terminaison
bedrock-mantlesuit sa propre procédure.
# Quotas Claude appliqués, région courante
aws service-quotas list-service-quotas \
--service-code bedrock \
--query "Quotas[?contains(QuotaName,
'Claude Sonnet 5.5')].[QuotaName,Value]" \
--output table
# Demander une hausse avec le code du quota
aws service-quotas \
request-service-quota-increase \
--service-code bedrock \
--quota-code L-XXXXXXXX \
--desired-value 12000000Débit provisionné et niveaux de service
| Option | Ce que vous obtenez | Conditions |
|---|---|---|
| Débit provisionné | Des unités de modèle, chacune avec un débit fixe de jetons d'entrée et de sortie par minute, facturées à l'heure | Sans engagement, 1 mois ou 6 mois. Débit et prix par unité auprès de votre account manager AWS |
| Reserved Tier | Jetons d'entrée et de sortie réservés par minute, débordement en Standard, objectif de disponibilité de 99,5 % | 1 ou 3 mois ; au moins 100 000 jetons d'entrée et 10 000 de sortie par minute ; via votre équipe de compte AWS |
| Priority Tier | Requêtes servies avant Standard et Flex, avec un supplément | Sans réservation ; partage le quota à la demande |
| Flex Tier | Une remise pour les travaux qui tolèrent un traitement plus long | Sans réservation ; partage le quota à la demande |
Tirer plus du quota dont vous disposez
- Baissez
max_tokensà la sortie attendue, puisque la valeur complète est réservée au début de chaque requête. - Utilisez le cache de prompts pour le contexte répété.
- Limitez par jetons et par concurrence. AWS prévient qu'un limiteur sur les seules requêtes par minute ne protège pas quand la taille des requêtes varie.
- Montez en charge par paliers et observez à chaque palier les taux de 429, 503 et 529.
- Passez les traitements hors ligne en inférence par lots, et les travaux tolérants à la latence en Flex Tier quand le modèle le permet.
Aller au-delà du quota d'un seul compte
Pour tenir un objectif de disponibilité, AWS conseille lui-même des nouvelles tentatives bornées et un repli multirégion ou multimodèle dans votre application. Une passerelle fait ce travail pour vous, sur plusieurs fournisseurs.
Avec Standard Compute, votre compte Bedrock devient un chemin parmi d'autres pour Claude, sans quota AWS à demander de votre côté. Claude est servi par Anthropic et les grands clouds, et la même API donne accès à GPT, Gemini et à des modèles ouverts comme GLM, DeepSeek et MiniMax. Chaque étape va au modèle le moins cher capable de la faire et au fournisseur le moins cher assez rapide pour la servir.
Pour Claude en Europe, définissez une règle Europe pour l'entreprise, une équipe ou une seule clé : chaque requête, y compris les nouvelles tentatives et les replis, n'est alors servie que par des points de terminaison d'inférence européens approuvés. Claude Opus 5.5, Sonnet 5.5 et Haiku 5.5 tournent en Europe sur Google Vertex AI et Amazon Bedrock en Irlande. Vous signez notre DPA dans le tableau de bord.
from openai import OpenAI
client = OpenAI(
base_url="https://api.stdcmpt.com/v1",
api_key=STANDARD_COMPUTE_KEY,
)
# "standardcompute" envoie chaque étape au
# modèle le moins cher capable de la faire.
# Pour imposer Claude :
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
model="standardcompute",
messages=messages,
)Pour les quotas d'Azure OpenAI, voir Quotas Azure OpenAI. Pour Standard Compute en entreprise, voir Passerelle IA pour les entreprises.
Passez votre équipe sur Standard Compute
Créez un espace entreprise, invitez votre équipe et donnez à chaque personne et à chaque application sa propre clé.
Créer un espace entrepriseStandard Compute pour les entreprises
Questions fréquentes
AWS Bedrock nous renvoie des ThrottlingException sur Claude et la hausse de quota traîne. Comment font les autres entreprises pour scaler ?
Dans AWS : profil d'inférence global ou UE, `max_tokens` au plus près de la sortie, cache de prompts, et une demande de hausse appuyée sur l'usage réel, puisque AWS privilégie les comptes qui consomment leur quota. Au-delà d'un compte : passer par une passerelle comme Standard Compute, qui sert Claude depuis plusieurs fournisseurs et bascule une requête limitée vers un autre fournisseur du même modèle, sans quota AWS à demander.
Quels sont les quotas Amazon Bedrock par défaut pour Claude ?
AWS publie par région 30 000 000 jetons par minute en inférence interrégionale pour Claude Opus 5.5, Opus 5 et Opus 4.8, 6 000 000 pour Sonnet 5.5, Sonnet 5 et Sonnet 4.6, et 10 000 000 pour Haiku 5.5. Les valeurs de votre compte peuvent être plus basses ; vérifiez Service Quotas.
Que signifie ThrottlingException sur Bedrock ?
Votre compte a dépassé un quota Bedrock pour ce modèle, par exemple les jetons par minute. Vérifiez les valeurs appliquées dans Service Quotas, réessayez avec backoff et jitter, et demandez une hausse si le trafic est régulier.
Pourquoi sommes-nous limités alors que la consommation semble sous le quota ?
Parce que les jetons de sortie de Claude comptent 5, 10 ou 15 fois selon le modèle, et que Bedrock réserve la valeur complète de max_tokens au début de chaque requête. Baissez max_tokens et utilisez le cache de prompts, dont les lectures ne comptent pas.
Existe-t-il une alternative avec hébergement en Europe ?
Standard Compute sert Claude Opus 5.5, Sonnet 5.5 et Haiku 5.5 en Europe via Google Vertex AI et Amazon Bedrock en Irlande. Avec une règle Europe, chaque requête, y compris les nouvelles tentatives et les replis, n'est servie que par des points de terminaison d'inférence européens approuvés, et si aucun ne peut la servir, elle est refusée avant l'envoi de votre prompt.
Faut-il acheter du débit provisionné pour Claude sur Bedrock ?
Seulement pour une charge prévisible et soutenue. Il est facturé à l'heure par unité de modèle, sans engagement ou sur 1 ou 6 mois, et ne fonctionne pas avec les profils d'inférence. L'alternative pour des jetons réservés par minute est le Reserved Tier, dès 100 000 jetons d'entrée et 10 000 de sortie par minute, via votre équipe de compte AWS.
Sources (vérifiées le 9 novembre 2026)
- Quotas pour Amazon Bedrockdocs.aws.amazon.com
- Quotas pour le point de terminaison bedrock-runtimedocs.aws.amazon.com
- Mode de comptabilisation des jetons dans Amazon Bedrockdocs.aws.amazon.com
- Points de terminaison et quotas Amazon Bedrock (Référence générale AWS)docs.aws.amazon.com
- Inférence interrégionaledocs.aws.amazon.com
- Résolution des codes d'erreur d'API Amazon Bedrockdocs.aws.amazon.com
- Meilleures pratiques de mise à l'échelle et de débitdocs.aws.amazon.com
- Débit provisionné dans Amazon Bedrockdocs.aws.amazon.com
- Niveaux de service pour l'inférencedocs.aws.amazon.com
- Demande d'augmentation de quota (Service Quotas)docs.aws.amazon.com
- Claude Code sur Amazon Bedrockcode.claude.com