Budget pr. nøgle

Et budget pr. nøgle er et udgiftsloft knyttet til én enkelt API-nøgle, så den person eller applikation, der bruger nøglen, aldrig kan bruge mere end sin ramme i en periode.

Hvorfor det betyder noget for virksomheder

Én agentløkke, der er løbet løbsk, kan bruge en måneds ramme på en nat. Et budget pr. nøgle begrænser skaden til den nøgle, og alle andre kan arbejde videre.

Det gør også omkostningen pr. person og pr. applikation synlig uden ekstra rapporteringsarbejde.

Eksempel

Hver udviklers Claude Code-nøgle har et fast månedligt budget. En fejlkonfigureret agent stopper ved sit budget i stedet for at skabe en femcifret regning, og resten af teamet mærker intet.

Hvad det betyder for en virksomhed, der bruger AI-API'er

Giv hver person og hver app sin egen nøgle, og knyt et budget til hver nøgle, så et løbsk job stopper af sig selv, mens alle andre arbejder videre. Nogle udbydere tilbyder en grovere udgave: Anthropic lader jer sætte egne udgifts- og rate limits pr. workspace, under organisationens grænser. En virksomhed udsteder for eksempel separate nøgler til sit natlige batchjob og sin kundechatbot, så en fejl i batchjobbet ikke kan bruge chatbottens penge.

Hvor begrebet er defineret: Ingen standard definerer det. Leverandørerne dokumenterer deres egne kontroller, for eksempel udgiftsgrænserne pr. workspace på Anthropics side om rate limits i Claude API (på engelsk).

Sådan løser Standard Compute det

Hver person og applikation får et fast månedligt budget, der aldrig overskrides, og I kan sætte udgiftslofter pr. nøgle og for hele virksomheden. Valgfri genopfyldning fra virksomhedens forudbetalte saldo holder kritiske agenter kørende.

Se priser

Spørgsmål, virksomheder stiller

Hvad sker der, når en nøgle når sit budget?
Forespørgsler med nøglen afvises, indtil perioden nulstilles, eller en administrator hæver budgettet. I Claude API returnerer en udgiftsgrænse, I selv har sat for et workspace, for eksempel HTTP 400 med en besked om, at I har nået de grænser for API-forbrug, I har angivet for workspacet.
Budget pr. nøgle eller pr. afdeling?
Et budget pr. nøgle er den finere kontrol, fordi det stopper én app eller person uden at stoppe en hel afdeling. Totaler pr. afdeling eller omkostningssted er nyttige til rapportering og intern viderefakturering.
Hvordan sætter vi det rigtige budget?
Tag udgangspunkt i en måneds reelle forbrug pr. nøgle, sæt budgettet lidt over det normale forbrug, og gennemgå de nøgler, der rammer det. Et budget, der rammes hver måned, er enten for lavt eller et tegn på, at forbruget har ændret sig.

Relaterede begreber

Standard Compute er en AI-gateway til virksomheder med frontiermodeller og åbne modeller gennem ét API. Jeres administratorer bestemmer, hvor forespørgsler behandles, hvilke udbydere og modeller der er tilladt, og hvad hver person og applikation må bruge.

Opret et virksomhedsområdeeller skriv til contact@standardcompute.com