Budget pr. nøgle
Et budget pr. nøgle er et udgiftsloft knyttet til én enkelt API-nøgle, så den person eller applikation, der bruger nøglen, aldrig kan bruge mere end sin ramme i en periode.
Hvorfor det betyder noget for virksomheder
Én agentløkke, der er løbet løbsk, kan bruge en måneds ramme på en nat. Et budget pr. nøgle begrænser skaden til den nøgle, og alle andre kan arbejde videre.
Det gør også omkostningen pr. person og pr. applikation synlig uden ekstra rapporteringsarbejde.
Eksempel
Hver udviklers Claude Code-nøgle har et fast månedligt budget. En fejlkonfigureret agent stopper ved sit budget i stedet for at skabe en femcifret regning, og resten af teamet mærker intet.
Hvad det betyder for en virksomhed, der bruger AI-API'er
Giv hver person og hver app sin egen nøgle, og knyt et budget til hver nøgle, så et løbsk job stopper af sig selv, mens alle andre arbejder videre. Nogle udbydere tilbyder en grovere udgave: Anthropic lader jer sætte egne udgifts- og rate limits pr. workspace, under organisationens grænser. En virksomhed udsteder for eksempel separate nøgler til sit natlige batchjob og sin kundechatbot, så en fejl i batchjobbet ikke kan bruge chatbottens penge.
Hvor begrebet er defineret: Ingen standard definerer det. Leverandørerne dokumenterer deres egne kontroller, for eksempel udgiftsgrænserne pr. workspace på Anthropics side om rate limits i Claude API (på engelsk).
Sådan løser Standard Compute det
Hver person og applikation får et fast månedligt budget, der aldrig overskrides, og I kan sætte udgiftslofter pr. nøgle og for hele virksomheden. Valgfri genopfyldning fra virksomhedens forudbetalte saldo holder kritiske agenter kørende.
Spørgsmål, virksomheder stiller
- Hvad sker der, når en nøgle når sit budget?
- Forespørgsler med nøglen afvises, indtil perioden nulstilles, eller en administrator hæver budgettet. I Claude API returnerer en udgiftsgrænse, I selv har sat for et workspace, for eksempel HTTP 400 med en besked om, at I har nået de grænser for API-forbrug, I har angivet for workspacet.
- Budget pr. nøgle eller pr. afdeling?
- Et budget pr. nøgle er den finere kontrol, fordi det stopper én app eller person uden at stoppe en hel afdeling. Totaler pr. afdeling eller omkostningssted er nyttige til rapportering og intern viderefakturering.
- Hvordan sætter vi det rigtige budget?
- Tag udgangspunkt i en måneds reelle forbrug pr. nøgle, sæt budgettet lidt over det normale forbrug, og gennemgå de nøgler, der rammer det. Et budget, der rammes hver måned, er enten for lavt eller et tegn på, at forbruget har ændret sig.