Budżet na klucz
Budżet na klucz to limit wydatków przypisany do pojedynczego klucza API, dzięki któremu osoba lub aplikacja, która z niego korzysta, nigdy nie wyda w danym okresie więcej, niż ma przydzielone.
Dlaczego to ważne dla firm
Jedna niekontrolowana pętla agenta może przez noc zużyć miesięczny przydział. Budżet na klucz ogranicza szkodę do tego klucza, a wszyscy inni pracują dalej.
Pokazuje też koszt na osobę i na aplikację bez dodatkowej pracy przy raportowaniu.
Przykład
Klucz każdego programisty do Claude Code ma stały miesięczny budżet. Źle skonfigurowany agent zatrzymuje się na swoim budżecie, zamiast wygenerować pięciocyfrowy rachunek, a reszta zespołu pracuje bez przeszkód.
Co to oznacza dla firmy korzystającej z API AI
Dajcie każdej osobie i każdej aplikacji własny klucz i przypiszcie każdemu kluczowi budżet, aby jedno wymykające się spod kontroli zadanie zatrzymało się samo, a wszyscy inni pracowali dalej. Niektórzy dostawcy oferują mniej szczegółową wersję: Anthropic pozwala ustawić własne limity wydatków i limity liczby żądań dla przestrzeni roboczej, poniżej limitów organizacji. Na przykład firma wydaje osobne klucze nocnemu zadaniu wsadowemu i chatbotowi dla klientów, więc błąd w zadaniu wsadowym nie zużyje pieniędzy chatbota.
Gdzie pojęcie jest zdefiniowane: Nie definiuje tego żadna norma. Dostawcy opisują własne mechanizmy kontroli, na przykład limity wydatków przestrzeni roboczych na stronie Anthropic Claude API rate limits (po angielsku).
Jak robi to Standard Compute
Każda osoba i aplikacja dostaje stały miesięczny budżet, który nigdy nie zostanie przekroczony, a limity wydatków ustawicie na klucz i dla całej firmy. Opcjonalne doładowanie z przedpłaconego salda firmy utrzymuje krytyczne agenty w działaniu.
Pytania, które zadają firmy
- Co się dzieje, gdy klucz osiągnie budżet?
- Żądania z tym kluczem są odrzucane, dopóki okres się nie odnowi albo administrator nie podniesie budżetu. W Claude API osiągnięcie ustawionego przez Was limitu wydatków przestrzeni roboczej zwraca na przykład HTTP 400 z komunikatem, że osiągnięto określone limity użycia API w przestrzeni roboczej.
- Budżet na klucz czy budżet na dział?
- Budżet na klucz to dokładniejsza kontrola, bo zatrzymuje jedną aplikację lub osobę, nie zatrzymując całego działu. Sumy na dział lub centrum kosztów przydają się do raportowania i wewnętrznego rozliczania kosztów.
- Jak ustawić właściwy budżet?
- Zacznijcie od miesiąca rzeczywistego użycia na klucz, ustawcie budżet nieco powyżej normalnego zużycia i przeglądajcie klucze, które go osiągają. Budżet osiągany co miesiąc jest albo za niski, albo sygnalizuje, że sposób użycia się zmienił.