Claude w Amazon Bedrock: przydziały, limity i ich zwiększanie

Przydziały, które dotyczą Claude

Mimo nazw przydziały obejmują wszystkie API inferencji, którymi wywołuje się model na bedrock-runtime, także Converse, Responses i Chat Completions. Nowszy punkt końcowy bedrock-mantle jest liczony osobno, z własnymi przydziałami tokenów wejściowych i wyjściowych na minutę i bez przydziału żądań na minutę.

Opublikowane wartości domyślne dla obecnych modeli Claude

Dlaczego przydział znika szybciej, niż rośnie faktura

Bedrock przelicza tokeny wyjściowe na zużycie przydziału za pomocą mnożnika. AWS podaje mnożnik 10 dla Claude Opus 5.5, Sonnet 5, Opus 5, Fable 5.1 i Fable 5.2, 15 dla modeli Claude w wersji 4.8, 2,5 dla Claude Mythos 5, 5.1 i 5.2 oraz 5 dla Claude Fable 5 i wersji 4.7 i starszych. Dla Sonnet 5.5 i Haiku 5.5 strona nie podaje osobnego mnożnika. Płacicie tylko za faktycznie zużyte tokeny.

Przydział jest też obciążany z góry. Na starcie żądania Bedrock odejmuje tokeny wejściowe i całą wartość max_tokens, a niewykorzystaną część zwraca po zakończeniu. Odczyty z pamięci podręcznej nie liczą się do przydziału. Wzór AWS zastosowany do jednego żądania do Claude Opus 5.5:

tokeny wejściowe          20 000
max_tokens                32 000
wygenerowane wyjście       2 000

zarezerwowane na starcie  52 000
  = input + max_tokens
obciążone na końcu        40 000
  = input + output x 10
zafakturowane tokeny      22 000
  = input + output

Ustawienie max_tokens blisko rzeczywistej długości odpowiedzi to najtańszy sposób, by zmieścić więcej równoległych żądań w tym samym przydziale.

Inferencja w wielu regionach

Cross-region inference wysyła żądanie przez profil inferencji, a Bedrock wybiera region, który je obsłuży. Żądania wysyłane przez profil korzystają z przydziału cross-region modelu, oddzielnego od przydziału on demand dla żądań w jednym regionie.

ThrottlingException i pokrewne błędy

W przykładzie AWS jest łącznie sześć prób: pierwsze żądanie i pięć ponowień. W boto3:

import boto3
from botocore.config import Config

config = Config(retries={
    "total_max_attempts": 6,
    "mode": "standard",
})
client = boto3.client(
    "bedrock-runtime", config=config
)

Jak złożyć wniosek o zwiększenie przydziału

1. Otwórzcie Service Quotas, wybierzcie Amazon Bedrock i sprawdźcie wartości konta dla modelu i regionu, które wywołujecie.
2. Najpierw sprawdźcie cykl życia modelu. AWS nie zwiększa przydziałów dla modeli, których wycofanie jest zaplanowane.
3. Złóżcie wniosek o zwiększenie przydziału „Cross-Region InvokeModel tokens per minute” dla modelu. AWS Support zaproponuje wtedy w tym samym zgłoszeniu zwiększenie tokenów on demand na minutę i tokenów dziennie.
4. Pokażcie rzeczywiste użycie. Według AWS pierwszeństwo mają klienci, których ruch już wykorzystuje obecny przydział, a inne wnioski mogą zostać odrzucone. Mniejsze zwiększenia są zwykle zatwierdzane automatycznie, większe trafiają do AWS Support.
5. Punkt końcowy bedrock-mantle ma własną procedurę.

# Przydziały Claude na koncie, bieżący region
aws service-quotas list-service-quotas \
  --service-code bedrock \
  --query "Quotas[?contains(QuotaName,
    'Claude Sonnet 5.5')].[QuotaName,Value]" \
  --output table

# Wniosek o zwiększenie z kodem przydziału
aws service-quotas \
  request-service-quota-increase \
  --service-code bedrock \
  --quota-code L-XXXXXXXX \
  --desired-value 12000000

Provisioned Throughput i poziomy usług

Więcej z przydziału, który już macie

• Ustawcie max_tokens na oczekiwaną długość odpowiedzi, bo cała wartość jest rezerwowana na starcie każdego żądania.
• Używajcie prompt caching dla powtarzającego się kontekstu.
• Ograniczajcie według tokenów i równoległości. AWS ostrzega, że limiter liczący tylko żądania na minutę nie chroni, gdy zmienia się rozmiar żądań.
• Zwiększajcie obciążenie stopniowo i śledźcie odsetek odpowiedzi 429, 503 i 529 na każdym poziomie.
• Przenieście zadania offline do batch inference, a zadania tolerujące opóźnienia do Flex Tier, jeśli model to obsługuje.

Poza przydział jednego konta

Aby osiągnąć cel dostępności, AWS sam zaleca ograniczone ponowienia w aplikacji i trasy zapasowe przez kilka regionów lub modeli. Bramka AI robi to za Was, u wielu dostawców.

Ze Standard Compute Wasze konto Bedrock staje się jedną z wielu dróg do Claude i nie musicie sami wnioskować o przydział Bedrock. Claude działa u Anthropic i w dużych chmurach, a to samo API daje dostęp do GPT, Gemini i otwartych modeli, takich jak GLM, DeepSeek i MiniMax. Każdy krok trafia do najtańszego modelu, który sobie z nim poradzi, i do najtańszego dostawcy, który jest wystarczająco szybki.

Aby korzystać z Claude w Europie, ustawcie ograniczenie do Europy dla firmy, zespołu lub pojedynczego klucza: każde żądanie, łącznie z ponowieniami i trasami zapasowymi, obsługują wtedy wyłącznie zatwierdzone europejskie punkty końcowe. Claude Opus 5.5, Sonnet 5.5 i Haiku 5.5 działają w Europie w Google Vertex AI i Amazon Bedrock w Irlandii. Umowę powierzenia przetwarzania danych (DPA) podpisujecie w panelu.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.stdcmpt.com/v1",
    api_key=STANDARD_COMPUTE_KEY,
)

# "standardcompute" wysyła każdy krok
# do najtańszego modelu, który sobie poradzi.
# Aby przypiąć Claude:
# model="anthropic/claude-sonnet-5.5"
client.chat.completions.create(
    model="standardcompute",
    messages=messages,
)

O przydziałach Azure OpenAI piszemy na stronie Limity i przydziały Azure OpenAI. Jak Standard Compute działa w firmach, opisujemy na stronie AI dla firm.

Najczęstsze pytania

Źródła (sprawdzono 9 listopada 2026)

1. Quotas for Amazon Bedrock (po angielsku)docs.aws.amazon.com
2. Quotas for the bedrock-runtime endpoint (po angielsku)docs.aws.amazon.com
3. How tokens are counted in Amazon Bedrock (po angielsku)docs.aws.amazon.com
4. Amazon Bedrock endpoints and quotas, AWS General Reference (po angielsku)docs.aws.amazon.com
5. Cross-Region inference (po angielsku)docs.aws.amazon.com
6. Troubleshooting Amazon Bedrock API error codes (po angielsku)docs.aws.amazon.com
7. Scaling and throughput best practices (po angielsku)docs.aws.amazon.com
8. Provisioned Throughput (po angielsku)docs.aws.amazon.com
9. Service tiers for inference (po angielsku)docs.aws.amazon.com
10. Requesting a quota increase, Service Quotas (po angielsku)docs.aws.amazon.com
11. Claude Code on Amazon Bedrock (po angielsku)code.claude.com

Czytaj dalej

• AI dla firm
• Limity i przydziały Azure OpenAI
• Limity Claude Team dla firm
• Europejska bramka AI
• Słownik: Limit liczby żądań a przydział
• Słownik: Provisioned throughput (PTU)
• Słownik: Przetwarzanie regionalne (ograniczenie do Europy)