LLM-gateway i egen drift eller som administrert tjeneste: regnestykket for 100 utviklere
Standard Compute er den administrerte varianten: et OpenAI- og Anthropic-kompatibelt API for Claude, GPT, Gemini og åpne modeller som GLM, DeepSeek og MiniMax, uten en klynge teamet deres må drifte. Teams-plattformen koster 0 USD og Enterprise 1 499 USD i måneden som selvbetjening, med SSO, lister over godkjente leverandører, revisjonslogg og signert databehandleravtale.
Opprett et bedriftsområdeSnakk med ossSe priser
En gateway i egen drift holder hver komponent i deres egen infrastruktur. Den vanlige åpen kildekode-kombinasjonen er LiteLLM-proxyen som OpenAI-kompatibel gateway og vLLM som modellserver, begge på Kubernetes. Da hører servere, oppdateringer, vaktordning og en avtale med hver modelleverandør til teamet deres.
Egen LLM-gateway eller administrert tjeneste for 100 utviklere
Standard Compute, KI-gatewayen fra Standard Compute AS i Oslo, Norge, er den administrerte varianten: et OpenAI- og Anthropic-kompatibelt API for Claude, GPT, Gemini og åpne modeller, uten servere, oppdateringer eller vaktordning for teamet deres. Teams-plattformen koster 0 USD og Enterprise 1 499 USD i måneden som selvbetjening, med SSO, lister over godkjente leverandører, revisjonslogg og signert databehandleravtale, og hver av de 100 utviklerne får en egen nøkkel med fast månedsbudsjett. En LiteLLM i egen drift bytter denne prisen mot egne servere, drift og en avtale med hver modelleverandør.
Egen drift eller administrert: hva som hører til teamet deres
Komponentene ifølge egen dokumentasjon, kontrollert 18. november 2026, ved siden av den administrerte varianten.
| LiteLLM-proxy (egen drift) | vLLM (egen drift) | Standard Compute (administrert) | |
|---|---|---|---|
| Rolle | LiteLLM-proxy (egen drift): OpenAI-kompatibel gateway foran mange leverandører | vLLM (egen drift): Modellserver for åpne vekter med OpenAI-kompatibel server | Standard Compute (administrert): Gateway med frontier- og åpne modeller bak ett API |
| Drift | LiteLLM-proxy (egen drift): Teamet deres (Helm-chart eller Kubernetes-manifester) | vLLM (egen drift): Teamet deres, med egne GPU-er | Standard Compute (administrert): Ingenting å drifte. EU-gateway i Finland, kontodata i Frankfurt |
| SSO og revisjonslogg | LiteLLM-proxy (egen drift): SSO gratis opptil 5 brukere; utover det og for revisjonslogger en Enterprise-lisens, pris etter bruk på forespørsel | vLLM (egen drift): Ikke inkludert | Standard Compute (administrert): SAML-SSO med Microsoft Entra ID 399 USD, revisjonslogg for administratorer 199 USD, eller alt i Enterprise |
| Modellavtaler | LiteLLM-proxy (egen drift): Én avtale og én faktura per leverandør | vLLM (egen drift): Ingen for egne modeller | Standard Compute (administrert): Én leverandør og én faktura for alle modeller |
| Utfall hos en leverandør | LiteLLM-proxy (egen drift): Reserveruter dere konfigurerer | vLLM (egen drift): Deres egen redundans | Standard Compute (administrert): Automatisk bytte til en annen godkjent leverandør av samme modell, innenfor reglene deres |
Kilder nederst på siden. Priser for Standard Compute i amerikanske dollar, se /pricing.
Hva lønner seg for en bedrift med 100 utviklere?
For 100 utviklere teller driften mer enn lisensen. En gateway i egen drift trenger servere og database, oppdateringer, overvåking, vaktordning og en sikkerhetsvurdering av hver modelleverandør bak den. Det arbeidet kommer selv om programvaren er gratis, og SSO for mer enn 5 brukere krever en Enterprise-lisens hos LiteLLM.
Med Standard Compute får hver utvikler en egen nøkkel med fast månedsplan, Claude Code og andre agenter kjører uten 5-timers- eller ukegrenser til månedsbudsjettet er brukt, og kostnaden er kjent før dere starter. Egen drift lønner seg først og fremst når en åpen modell bærer det meste av trafikken jevnt og GPU-ene er fullt utnyttet hele tiden.
| Funksjon | Per måned | Hva den gjør |
|---|---|---|
| Teams-plattformen | Per måned: 0 USD | Hva den gjør: Team, invitasjoner på e-post og en nøkkel for hver person og hver app under én bedriftskonto |
| Europa-regel og zero data retention | Per måned: Gratis | Hva den gjør: Per bedrift, team eller nøkkel |
| Lister over godkjente leverandører | Per måned: 199 USD | Hva den gjør: Dere bestemmer hvilke inferensleverandører som får behandle dataene deres. Reserveruter kan aldri gå utenom listen |
| Revisjonslogg for administratorer | Per måned: 199 USD | Hva den gjør: Hver endring en administrator gjør på personer, nøkler, budsjetter og regler, med verdiene før og etter |
| Eksport av forespørsler | Per måned: 299 USD | Hva den gjør: Modell, leverandøren som betjente forespørselen, regionregel og status for hver forespørsel |
| Signert databehandleravtale | Per måned: 299 USD | Hva den gjør: Databehandleravtalen signeres i dashbordet på få minutter |
| SSO (SAML, inkludert Microsoft Entra ID) | Per måned: 399 USD | Hva den gjør: Innlogging med jobbkontoen; alle på det verifiserte domenet blir automatisk med i bedriften |
| Oppetids-SLA og 12 måneders logger | Per måned: 399 USD | Hva den gjør: 99,9 % oppetid per måned med servicekreditter, forespørselsoversikter lagret i 12 måneder |
| Enterprise | Per måned: 1 499 USD | Hva den gjør: Alle funksjonene over i én plan, som selvbetjening |
Priser i amerikanske dollar, se /pricing. Modellbruken betales som faste månedsplaner per person eller app.
Kombiner begge: egen modell og administrert gateway
Mange bedrifter bruker begge: en modell i egen drift til det mest sensitive arbeidet og hostede modeller til resten. LiteLLM kan rute til deres eget vLLM-endepunkt og til ethvert OpenAI-kompatibelt endepunkt, også Standard Compute for Claude, GPT, Gemini og de åpne modellene dere ikke drifter selv.
Applikasjonene beholder én base-URL, den egne modellen blir i klyngen deres, og den hostede trafikken får lister over godkjente leverandører, Europa-regel og budsjett per nøkkel. Europa omfatter her EU/EØS, Storbritannia og Sveits.
model_list:
- model_name: intern-llm
litellm_params:
model: hosted_vllm/intern-llm
api_base: http://vllm.internal:8000/v1
- model_name: standardcompute
litellm_params:
model: openai/standardcompute
api_base: https://eu.stdcmpt.com/v1
api_key: os.environ/STANDARD_COMPUTE_KEYPersonvern uten egen klynge
Sett en Europa-regel for bedriften, et team eller én nøkkel, så blir hver forespørsel, også nye forsøk og reserveruter, bare betjent av godkjente europeiske inferensendepunkter. Kan ingen europeiske endepunkter betjene den, avvises den før prompten deres sendes. EU-gatewayen vår terminerer TLS og kjører i Finland, og kontodataene deres lagres i Frankfurt.
Vi behandler promptene deres i minnet for å betjene hver forespørsel og skriver dem aldri til lagring eller logger. Dere signerer databehandleravtalen vår i dashbordet på få minutter. Den forplikter oss til ingen trening på dataene deres, ingen lagring av innholdet deres og varsling om brudd innen 72 timer.
Spørsmål fra IT, sikkerhet og økonomi
- Er egen drift billigere enn en administrert gateway?
- Det er billigere når en åpen modell bærer jevn, høy trafikk på GPU-er dere utnytter fullt. For blandet arbeid koster Standard Compute, med ruting til den billigste egnede modellen og faste planer per person eller app, som regel mindre enn ledig maskinvare pluss folkene som drifter den.
- Hva koster det å drifte LiteLLM for 100 utviklere?
- Programvaren med åpen kildekode er gratis. I tillegg kommer servere og database, oppdateringer, vaktordning og avtaler med hver modelleverandør; SSO for mer enn 5 brukere og revisjonslogger krever en Enterprise-lisens, som LiteLLM priser etter bruk på forespørsel. Hos Standard Compute koster Teams-plattformen 0 USD og Enterprise 1 499 USD i måneden.
- Kan Standard Compute holde data i Europa som en egen klynge?
- Sett en Europa-regel for bedriften, et team eller én nøkkel, så blir hver forespørsel, også nye forsøk og reserveruter, bare betjent av godkjente europeiske inferensendepunkter. Kan ingen europeiske endepunkter betjene den, avvises den før prompten deres sendes. Europa omfatter her EU/EØS, Storbritannia og Sveits.
- Lagrer Standard Compute prompter?
- Vi behandler promptene deres i minnet for å betjene hver forespørsel og skriver dem aldri til lagring eller logger. Standard Compute trener aldri på promptene eller svarene deres.
- Lønner det seg med en LLM-gateway i egen drift for 100 utviklere?
- Som regel ikke, med mindre en åpen modell bærer det meste av trafikken jevnt. Drift, SSO og revisjonslogger via en Enterprise-lisens og en avtale per modelleverandør koster mer enn en administrert gateway; hos Standard Compute koster Teams-plattformen 0 USD og Enterprise 1 499 USD i måneden.
Relaterte sider
- Suveren KI for bedrifter: egen drift eller en europeisk gateway
- Privat KI for bedrifter: egen drift eller et privat LLM-API
- Alternativ til LiteLLM for bedrifter
- LiteLLM eller Kong AI Gateway
- GDPR-vennlig LLM-API: Claude og GPT med databehandleravtale
- Én faktura for OpenAI, Anthropic, Mistral og andre KI-leverandører
- Self-hosted LLM gateway vs managed (engelsk)
- KI-gateway for bedrifter
- Priser for team og Enterprise
- Sikkerhet og databehandling (engelsk)