Udgiftsloft
Et udgiftsloft er en hård øvre grænse for AI-udgifter for en konto, en nøgle eller en periode. Når loftet er nået, stopper forespørgslerne i stedet for at give flere omkostninger.
Hvorfor det betyder noget for virksomheder
Et loft og en advarsel er to forskellige kontroller. En advarsel giver besked, efter at pengene er brugt; et loft stopper forbruget.
Udbyderne sætter også deres egne lofter. Anthropic giver hvert forbrugsniveau i Claude API et månedligt udgiftsloft og lader en organisation sætte sin egen, lavere grænse.
Eksempel
Økonomiafdelingen sætter et månedligt loft for hele virksomheden for forbrugsbaseret afregning. Når det er nået, stopper forespørgslerne indtil næste periode, eller indtil økonomiafdelingen hæver loftet.
Hvad det betyder for en virksomhed, der bruger AI-API'er
Beslut på forhånd, hvad der skal ske ved loftet: stoppe alle forespørgsler, kun stoppe ikke-kritiske apps eller trække på en reserve. Et loft, der stopper jeres kundechatbot ved månedens udgang, kan koste mere end det overforbrug, det forhindrer. I Claude API sættes forbruget for eksempel på pause ved et niveaus månedlige udgiftsloft indtil kl. 00.00 UTC den første dag i næste måned, medmindre der gives en højere grænse, så en virksomhed med produktionstrafik bør kende sit loft og bede om et højere niveau, før den når det.
Hvor begrebet er defineret: Hver udbyder definerer sit eget. Anthropics side om rate limits i Claude API (på engelsk) angiver et månedligt udgiftsloft pr. forbrugsniveau: 500 $ for Start, 1.000 $ for Build og 200.000 $ for Scale.
Sådan løser Standard Compute det
Hver person og applikation får et fast månedligt budget, der aldrig overskrides, og I kan sætte udgiftslofter pr. nøgle og for hele virksomheden. Valgfri genopfyldning fra virksomhedens forudbetalte saldo holder kritiske agenter kørende.
Spørgsmål, virksomheder stiller
- Hvad betyder "you hit your spend cap set by the owner of your workspace"?
- En ejer eller administrator af jeres workspace har sat en udgiftsgrænse, og forbruget har nået den. Kun en ejer eller administrator kan hæve den; ellers vender adgangen tilbage, når grænsen nulstilles ved starten af næste periode.
- Er et udgiftsloft det samme som en budgetadvarsel?
- Nej. En advarsel giver nogen besked og lader forbruget fortsætte. Et loft stopper forespørgsler, når grænsen er nået.
- Hjælper det at prøve igen efter en fejl fra udgiftsloftet?
- Nej. I Claude API har 429-svaret fra udgiftsloftet ingen retry-after-header, og nye forsøg, også SDK'ernes automatiske forsøg, mislykkes, indtil adgangen genoptages.
Relaterede begreber
Relaterede sider
- Forbrugsgrænserne i Claude Team
- AI-governance og omkostningskontrol
- Priser (på engelsk)
- Ordbog: AI i virksomheden