In breve
Amazon Bedrock limita Claude in token al minuto, per modello e per regione. Token di input e di output contano insieme, alcuni modelli hanno anche una quota di richieste al minuto e ogni account ha un limite giornaliero di token.
Ogni token di output di Claude conta 5, 10 o 15 volte contro la quota a seconda del modello, e l'intero valore di max_tokens viene riservato all'avvio della richiesta. Per questo il throttling inizia molto prima che i token fatturati raggiungano la quota.
Una ThrottlingException è un HTTP 429 e significa che il tuo account ha superato una quota di Bedrock. AWS consiglia backoff esponenziale con jitter, un aumento di quota e, per un carico costante, il Reserved Tier o Provisioned Throughput.
Gli aumenti più consistenti li valuta AWS Support. Hanno la precedenza gli account che usano già per intero la quota esistente; le altre richieste possono essere respinte.
Su Standard Compute Claude è servito da più cloud, quindi la quota o un guasto di un fornitore non fermano il lavoro: una richiesta limitata o fallita passa in automatico a un altro fornitore dello stesso modello.
Le quote che valgono per Claude
| Quota (nome AWS) | Ambito | Cosa conta |
|---|---|---|
Cross-Region InvokeModel tokens per minute | Per modello, per regione | Token di input e di output insieme, per le chiamate tramite un profilo di inferenza interregionale |
On-demand InvokeModel tokens per minute | Per modello, per regione | Token di input e di output insieme, per le chiamate on-demand in una sola regione |
InvokeModel requests per minute | Per modello, per regione | Richieste al minuto, per i modelli che hanno questa quota; Claude Opus 4.7 e 4.8 non ce l'hanno |
Cross-Model Max Tokens Per Day | Per account, per regione | Token al giorno su tutti i modelli supportati |
Nonostante i nomi, queste quote valgono per ogni API di inferenza che chiama il modello tramite bedrock-runtime, anche Converse, Responses e Chat Completions. Il nuovo endpoint bedrock-mantle è conteggiato a parte, con quote proprie per i token di input e di output al minuto e senza quota di richieste al minuto.
Valori predefiniti pubblicati per i modelli Claude attuali
| Modello | Interregionale, token al minuto | Globale, token al minuto | Interregionale, richieste al minuto |
|---|---|---|---|
| Claude Opus 5.5 | 30.000.000 | 30.000.000 | Non pubblicato |
| Claude Opus 5 | 30.000.000 | 30.000.000 | Non pubblicato |
| Claude Opus 4.8 | 30.000.000 | 30.000.000 | Nessuna quota di richieste al minuto |
| Claude Sonnet 5.5 | 6.000.000 | 6.000.000 | Non pubblicato |
| Claude Sonnet 5 | 6.000.000 | 6.000.000 | Non pubblicato |
| Claude Sonnet 4.6 | 6.000.000 | 6.000.000 | 10.000 |
| Claude Haiku 5.5 | 10.000.000 | 10.000.000 | Non pubblicato |
| Claude Haiku 4.5 | 5.000.000 | 5.000.000 | 10.000 |
Perché la quota scende più in fretta della fattura
Bedrock converte i token di output in consumo di quota con un fattore fisso (burndown). AWS indica 10 volte per Claude Opus 5.5, Sonnet 5, Opus 5 e Fable 5.1, 15 volte per i modelli Claude della versione 4.8 e 5 volte per la versione 4.7 e precedenti. Per Sonnet 5.5 e Haiku 5.5 la pagina non indica un fattore specifico. Si pagano solo i token effettivamente usati.
La quota viene inoltre addebitata in anticipo. All'avvio di una richiesta Bedrock sottrae i token di input più l'intero valore di max_tokens e restituisce la parte non usata alla fine. Le letture dalla cache non contano. Ecco la formula di AWS per una richiesta a Claude Opus 5.5:
Token di input 20.000
max_tokens 32.000
Output generato 2.000
Riservato all'avvio 52.000
= input + max_tokens
Addebitato alla fine 40.000
= input + output x 10
Token fatturati 22.000
= input + outputImpostare max_tokens vicino alla dimensione reale dell'output è il modo più economico per far stare più richieste parallele nella stessa quota.
Inferenza interregionale
L'inferenza interregionale invia una richiesta tramite un profilo di inferenza e Bedrock sceglie la regione che la serve. Le chiamate tramite un profilo usano la quota interregionale del modello, separata dalla quota on-demand per le chiamate in una sola regione.
| Profilo | Dove vengono eseguite le richieste | Prezzo |
|---|---|---|
| Geografico (US, EU, APAC) | Nelle regioni di quella geografia elencate nel profilo | Prezzo standard |
| Globale | In qualsiasi regione commerciale AWS supportata | Circa il 10% in meno secondo AWS |
ThrottlingException ed errori collegati
| Errore | HTTP | Significato | Indicazione di AWS |
|---|---|---|---|
| ThrottlingException | 429 | La richiesta ha superato le quote di Bedrock del tuo account | Riprovare con backoff esponenziale e jitter, controllare le quote, chiedere un aumento oppure, per un carico costante, usare Reserved Tier o Provisioned Throughput |
| ModelNotReadyException | 429 | Alcune operazioni di runtime restituiscono 429 anche in questo caso | Leggere il tipo di errore, non solo il codice di stato |
| ServiceUnavailable | 503 | Carenza temporanea di capacità, indipendente dalla tua quota | Attendere e riprovare; se persiste, cambiare regione o usare l'inferenza interregionale |
| overloaded_error | 529 | Il modello in questo momento non ha capacità | Rispettare Retry-After, evitare tentativi sincronizzati, usare l'inferenza interregionale |
Come esempio AWS indica sei tentativi in totale, la richiesta iniziale più cinque nuovi tentativi. In boto3:
import boto3
from botocore.config import Config
config = Config(retries={
"total_max_attempts": 6,
"mode": "standard",
})
client = boto3.client(
"bedrock-runtime", config=config
)Come chiedere un aumento di quota
- Apri Service Quotas, scegli Amazon Bedrock e controlla i valori del tuo account per il modello e la regione che chiami.
- Controlla prima il ciclo di vita del modello. Per i modelli in stato Legacy o Deprecated AWS non concede aumenti.
- Chiedi l'aumento per "Cross-Region InvokeModel tokens per minute" del modello. L'AWS Support offre poi di alzare nello stesso caso anche i token on-demand al minuto e i token al giorno.
- Documenta l'utilizzo reale. Secondo AWS hanno la precedenza i clienti il cui traffico usa già per intero la quota esistente; le altre richieste possono essere respinte. Gli aumenti piccoli vengono spesso approvati in automatico, quelli più grandi li valuta AWS Support.
- Per l'endpoint
bedrock-mantlevale una procedura separata.
# Quote Claude dell'account, regione corrente
aws service-quotas list-service-quotas \
--service-code bedrock \
--query "Quotas[?contains(QuotaName,
'Claude Sonnet 5.5')].[QuotaName,Value]" \
--output table
# Chiedere l'aumento con il codice della quota
aws service-quotas \
request-service-quota-increase \
--service-code bedrock \
--quota-code L-XXXXXXXX \
--desired-value 12000000Provisioned Throughput e livelli di servizio
| Opzione | Cosa ottieni | Condizioni |
|---|---|---|
| Provisioned Throughput | Unità di modello con una capacità fissa di input e output al minuto, fatturate a ore | Senza impegno, 1 mese o 6 mesi. Capacità e prezzo per unità li indica il tuo AWS Account Manager |
| Reserved Tier | Token di input e di output al minuto riservati, eccedenza su Standard, obiettivo di disponibilità del 99,5% | 1 o 3 mesi; almeno 100.000 token di input e 10.000 di output al minuto; tramite il tuo AWS Account Team |
| Priority Tier | Le richieste vengono servite prima di Standard e Flex, con un sovrapprezzo | Nessuna prenotazione; condivide la quota on-demand |
| Flex Tier | Sconto per attività che tollerano tempi di elaborazione più lunghi | Nessuna prenotazione; condivide la quota on-demand |
Ottenere di più dalla quota che hai
- Imposta
max_tokenssull'output atteso, perché l'intero valore viene riservato all'avvio di ogni richiesta. - Usa il prompt caching per il contesto che si ripete.
- Limita in base a token e parallelismo. AWS avverte che un limite basato solo sulle richieste al minuto non protegge quando cambia la dimensione delle richieste.
- Aumenta il carico per gradi e a ogni passo osserva i tassi di 429, 503 e 529.
- Sposta il lavoro offline sull'inferenza batch e il lavoro che tollera latenza sul Flex Tier, dove il modello lo supporta.
Oltre la quota di un singolo account
Per un obiettivo di disponibilità AWS stessa consiglia tentativi limitati e fallback su più regioni o modelli dentro la tua applicazione. Un gateway fa questo lavoro al posto tuo, su più fornitori.
Con Standard Compute il tuo account Bedrock diventa una delle diverse vie verso Claude, e non devi chiedere una quota AWS tua. Claude è servito da Anthropic e dai principali cloud, e la stessa API raggiunge GPT, Gemini e modelli aperti come GLM, DeepSeek e MiniMax. Ogni passaggio va al modello più economico in grado di svolgerlo e al fornitore più economico abbastanza veloce.
Per Claude in Europa imposti una regola Europa per l'azienda, un team o una singola chiave: ogni richiesta, compresi nuovi tentativi e fallback, viene servita solo da endpoint di inferenza europei approvati. Claude Opus 5.5, Sonnet 5.5 e Haiku 5.5 girano in Europa su Google Vertex AI e su Amazon Bedrock in Irlanda. Il DPA (accordo sul trattamento dei dati) lo firmi nella dashboard.
from openai import OpenAI
client = OpenAI(
base_url="https://api.stdcmpt.com/v1",
api_key=STANDARD_COMPUTE_KEY,
)
# "standardcompute" manda ogni passaggio al
# modello più economico in grado di svolgerlo.
# Per fissare Claude:
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
model="standardcompute",
messages=messages,
)Per le quote di Azure OpenAI vedi Quote e limiti di Azure OpenAI. Standard Compute per le aziende spiega il gateway, la regola Europa e l'accesso con Microsoft per i team.
Porta il tuo team su Standard Compute
Crea un account aziendale, invita il team e dai a ogni persona e a ogni applicazione la propria chiave.
Domande frequenti
La nostra quota AWS Bedrock per Claude a Milano e Francoforte è troppo bassa e la richiesta di aumento è ferma da settimane. Che alternative ci sono con hosting in Europa?
Dentro AWS: usare il profilo di inferenza globale o quello EU, abbassare `max_tokens` e sollecitare con dati di utilizzo reali, perché AWS privilegia gli account che usano per intero la propria quota. Fuori dal tuo account: Standard Compute serve Claude Opus 5.5, Sonnet 5.5 e Haiku 5.5 in Europa tramite Google Vertex AI e Amazon Bedrock in Irlanda, senza che tu debba chiedere una quota AWS tua. Con una regola Europa ogni richiesta, compresi nuovi tentativi e fallback, viene servita solo da endpoint di inferenza europei approvati.
Quali sono le quote predefinite per Claude su Amazon Bedrock?
AWS pubblica per ogni regione 30.000.000 token al minuto tramite inferenza interregionale per Claude Opus 5.5, Opus 5 e Opus 4.8, 6.000.000 per Sonnet 5.5, Sonnet 5 e Sonnet 4.6 e 10.000.000 per Haiku 5.5. I valori del tuo account possono essere più bassi; controlla Service Quotas.
Cosa significa ThrottlingException su Bedrock?
Il tuo account ha superato una quota di Bedrock per quel modello, per esempio i token al minuto. Controlla i valori in Service Quotas, riprova con backoff e jitter e, se il traffico è costante, chiedi un aumento.
Perché veniamo limitati anche se il consumo è sotto la quota?
Perché i token di output di Claude contano 5, 10 o 15 volte a seconda del modello e Bedrock riserva l'intero valore di max_tokens all'avvio di ogni richiesta. Abbassa max_tokens e usa il prompt caching, le cui letture dalla cache non contano.
Quanto tempo richiede un aumento di quota su Bedrock?
AWS non indica tempi. Gli aumenti piccoli vengono spesso approvati in automatico, quelli più grandi li valuta AWS Support, con precedenza agli account che usano già per intero la quota. Per i modelli Legacy o Deprecated non ci sono aumenti.
Conviene Provisioned Throughput per Claude su Bedrock?
Solo per un carico costante e prevedibile. Si paga a ore per unità di modello, senza impegno o per 1 o 6 mesi, e non funziona con i profili di inferenza. L'alternativa per i token al minuto riservati è il Reserved Tier, da 100.000 token di input e 10.000 di output al minuto, tramite il tuo AWS Account Team.
Fonti (verificate il 9 novembre 2026)
- Quote per Amazon Bedrockdocs.aws.amazon.com
- Quote per l'endpoint bedrock-runtimedocs.aws.amazon.com
- Come vengono conteggiati i token in Amazon Bedrockdocs.aws.amazon.com
- Endpoint e quote di Amazon Bedrockdocs.aws.amazon.com
- Inferenza interregionaledocs.aws.amazon.com
- Risoluzione dei problemi dei codici di errore dell'API Amazon Bedrockdocs.aws.amazon.com
- Migliori pratiche di scalabilità e velocità di trasmissionedocs.aws.amazon.com
- Provisioned Throughput in Amazon Bedrockdocs.aws.amazon.com
- Livelli di servizio per l'inferenzadocs.aws.amazon.com
- Richiesta di aumento delle quotedocs.aws.amazon.com
- Claude Code su Amazon Bedrockcode.claude.com