LLM-gateway selvhostet eller som managed service: regnestykket for 100 udviklere
Standard Compute er den managed variant: en OpenAI- og Anthropic-kompatibel API til Claude, GPT, Gemini og åbne modeller som GLM, DeepSeek og MiniMax, uden en klynge, jeres team skal drive. Teams-platformen koster 0 USD og Enterprise 1.499 USD om måneden som selvbetjening, med SSO, lister over godkendte udbydere, auditlog og underskrevet databehandleraftale.
Opret et virksomhedsområdeTal med osSe priser
En selvhostet gateway holder hver komponent i jeres egen infrastruktur. Den almindelige open source-kombination er LiteLLM-proxyen som OpenAI-kompatibel gateway og vLLM som modelserver, begge på Kubernetes. Så hører servere, opdateringer, vagt og en aftale med hver modeludbyder til jeres team.
Egen LLM-gateway eller managed service for 100 udviklere
Standard Compute, AI-gatewayen fra Standard Compute AS i Oslo, Norge, er den managed variant: en OpenAI- og Anthropic-kompatibel API til Claude, GPT, Gemini og åbne modeller, uden servere, opdateringer eller vagt for jeres team. Teams-platformen koster 0 USD og Enterprise 1.499 USD om måneden som selvbetjening, med SSO, lister over godkendte udbydere, auditlog og underskrevet databehandleraftale, og hver af de 100 udviklere får sin egen nøgle med fast månedsbudget. En selvhostet LiteLLM bytter det gebyr ud med egne servere, drift og en aftale med hver modeludbyder.
Selvhostet eller managed: hvad der hører til jeres team
Komponenterne ifølge deres egen dokumentation, kontrolleret 18. november 2026, ved siden af den managed variant.
| LiteLLM-proxy (selvhostet) | vLLM (selvhostet) | Standard Compute (managed) | |
|---|---|---|---|
| Rolle | LiteLLM-proxy (selvhostet): OpenAI-kompatibel gateway foran mange udbydere | vLLM (selvhostet): Modelserver til åbne vægte med OpenAI-kompatibel server | Standard Compute (managed): Gateway med frontier- og åbne modeller bag én API |
| Drift | LiteLLM-proxy (selvhostet): Jeres team (Helm-chart eller Kubernetes-manifester) | vLLM (selvhostet): Jeres team, med egne GPU'er | Standard Compute (managed): Intet at drive. EU-gateway i Finland, kontodata i Frankfurt |
| SSO og auditlog | LiteLLM-proxy (selvhostet): SSO gratis op til 5 brugere; derudover og til auditlogs en Enterprise-licens, pris efter forbrug på forespørgsel | vLLM (selvhostet): Ikke inkluderet | Standard Compute (managed): SAML-SSO med Microsoft Entra ID 399 USD, auditlog for administratorer 199 USD, eller det hele i Enterprise |
| Modelaftaler | LiteLLM-proxy (selvhostet): Én aftale og én faktura pr. udbyder | vLLM (selvhostet): Ingen for egne modeller | Standard Compute (managed): Én leverandør og én faktura for alle modeller |
| Nedbrud hos en udbyder | LiteLLM-proxy (selvhostet): Reserveruter, I konfigurerer | vLLM (selvhostet): Jeres egen redundans | Standard Compute (managed): Automatisk skift til en anden godkendt udbyder af samme model, inden for jeres regler |
Kilder nederst på siden. Priser for Standard Compute i amerikanske dollars, se /pricing.
Hvad giver mest mening for en virksomhed med 100 udviklere?
For 100 udviklere vejer driften tungere end licensen. En selvhostet gateway kræver servere og database, opdateringer, overvågning, vagt og en sikkerhedsvurdering af hver modeludbyder bag den. Det arbejde kommer, selv om softwaren er gratis, og SSO for mere end 5 brugere kræver en Enterprise-licens hos LiteLLM.
Med Standard Compute får hver udvikler sin egen nøgle med fast månedsplan, Claude Code og andre agenter kører uden 5-timers- eller ugegrænser, indtil månedsbudgettet er brugt, og omkostningen er kendt, før I starter. Selvhosting betaler sig først og fremmest, når en åben model bærer det meste af trafikken jævnt, og GPU'erne udnyttes fuldt hele tiden.
| Funktion | Pr. måned | Hvad den gør |
|---|---|---|
| Teams-platformen | Pr. måned: 0 USD | Hvad den gør: Teams, invitationer på e-mail og en nøgle til hver person og hver app under én virksomhedskonto |
| Europa-regel og zero data retention | Pr. måned: Gratis | Hvad den gør: Pr. virksomhed, team eller nøgle |
| Lister over godkendte udbydere | Pr. måned: 199 USD | Hvad den gør: I bestemmer, hvilke inferensudbydere der må behandle jeres data. Reserveruter kan aldrig gå uden om listen |
| Auditlog for administratorer | Pr. måned: 199 USD | Hvad den gør: Hver ændring en administrator foretager af personer, nøgler, budgetter og regler, med værdierne før og efter |
| Eksport af forespørgsler | Pr. måned: 299 USD | Hvad den gør: Model, udbyderen der betjente forespørgslen, regionsregel og status for hver forespørgsel |
| Underskrevet databehandleraftale | Pr. måned: 299 USD | Hvad den gør: Databehandleraftalen underskrives i dashboardet på få minutter |
| SSO (SAML, inklusive Microsoft Entra ID) | Pr. måned: 399 USD | Hvad den gør: Login med arbejdskontoen; alle på det verificerede domæne bliver automatisk en del af virksomheden |
| Oppetids-SLA og 12 måneders logs | Pr. måned: 399 USD | Hvad den gør: 99,9 % oppetid pr. måned med servicekreditter, forespørgselsposter gemt i 12 måneder |
| Enterprise | Pr. måned: 1.499 USD | Hvad den gør: Alle funktionerne ovenfor i én plan, som selvbetjening |
Priser i amerikanske dollars, se /pricing. Modelforbruget betales som faste månedsplaner pr. person eller app.
Kombinér begge: egen model og managed gateway
Mange virksomheder bruger begge: en selvhostet model til det mest følsomme arbejde og hostede modeller til resten. LiteLLM kan route til jeres eget vLLM-endpoint og til ethvert OpenAI-kompatibelt endpoint, også Standard Compute til Claude, GPT, Gemini og de åbne modeller, I ikke selv driver.
Applikationerne beholder én base-URL, den egne model bliver i jeres klynge, og den hostede trafik får lister over godkendte udbydere, Europa-regel og budget pr. nøgle. Europa omfatter her EU/EØS, Storbritannien og Schweiz.
model_list:
- model_name: intern-llm
litellm_params:
model: hosted_vllm/intern-llm
api_base: http://vllm.internal:8000/v1
- model_name: standardcompute
litellm_params:
model: openai/standardcompute
api_base: https://eu.stdcmpt.com/v1
api_key: os.environ/STANDARD_COMPUTE_KEYDatabeskyttelse uden egen klynge
Sæt en Europa-regel for virksomheden, et team eller en enkelt nøgle, så bliver hver forespørgsel, også nye forsøg og reserveruter, kun betjent af godkendte europæiske inferens-endpoints. Kan intet europæisk endpoint betjene den, afvises den, før jeres prompt sendes. Vores EU-gateway terminerer TLS og kører i Finland, og jeres kontodata gemmes i Frankfurt.
Vi behandler jeres prompts i hukommelsen for at betjene hver forespørgsel og skriver dem aldrig til lager eller logs. I underskriver vores databehandleraftale i dashboardet på få minutter. Den forpligter os til ingen træning på jeres data, ingen opbevaring af jeres indhold og underretning om brud inden for 72 timer.
Spørgsmål fra IT, sikkerhed og økonomi
- Er selvhosting billigere end en managed gateway?
- Det er billigere, når en åben model bærer jævn, høj trafik på GPU'er, som I udnytter fuldt. Til blandet arbejde koster Standard Compute, med routing til den billigste egnede model og faste planer pr. person eller app, som regel mindre end ubrugt hardware plus de folk, der driver den.
- Hvad koster det at drive LiteLLM for 100 udviklere?
- Open source-softwaren er gratis. Dertil kommer servere og database, opdateringer, vagt og aftaler med hver modeludbyder; SSO for mere end 5 brugere og auditlogs kræver en Enterprise-licens, som LiteLLM prissætter efter forbrug på forespørgsel. Hos Standard Compute koster Teams-platformen 0 USD og Enterprise 1.499 USD om måneden.
- Kan Standard Compute holde data i Europa som en egen klynge?
- Sæt en Europa-regel for virksomheden, et team eller en enkelt nøgle, så bliver hver forespørgsel, også nye forsøg og reserveruter, kun betjent af godkendte europæiske inferens-endpoints. Kan intet europæisk endpoint betjene den, afvises den, før jeres prompt sendes. Europa omfatter her EU/EØS, Storbritannien og Schweiz.
- Gemmer Standard Compute prompts?
- Vi behandler jeres prompts i hukommelsen for at betjene hver forespørgsel og skriver dem aldrig til lager eller logs. Standard Compute træner aldrig på jeres prompts eller svar.
- Kan det betale sig at selvhoste en LLM-gateway for 100 udviklere?
- Som regel ikke, medmindre en åben model bærer det meste af trafikken jævnt. Drift, SSO og auditlogs via en Enterprise-licens og en aftale pr. modeludbyder koster mere end en managed gateway; hos Standard Compute koster Teams-platformen 0 USD og Enterprise 1.499 USD om måneden.
Relaterede sider
- Suveræn AI til virksomheder: selvhosting eller en europæisk gateway
- Privat LLM til virksomheder
- LiteLLM eller Kong AI Gateway
- GDPR-kompatibel LLM-API: Claude og GPT med databehandleraftale
- Én samlet faktura for OpenAI, Anthropic, Mistral og andre AI-udbydere
- Self-hosted LLM gateway vs managed (engelsk)
- AI-gateway til virksomheder
- Priser for teams og Enterprise
- Sikkerhed og databehandling (engelsk)