LLM-gateway i egen drift eller som managed tjänst: kalkylen för 100 utvecklare
Standard Compute är den managed varianten: ett OpenAI- och Anthropic-kompatibelt API för Claude, GPT, Gemini och öppna modeller som GLM, DeepSeek och MiniMax, utan ett kluster som ert team måste driva. Teams-plattformen kostar 0 USD och Enterprise 1 499 USD i månaden som självbetjäning, med SSO, listor över godkända leverantörer, granskningslogg och signerat biträdesavtal.
Skapa en företagsarbetsytaPrata med ossSe priser
En gateway i egen drift håller varje komponent i er egen infrastruktur. Den vanliga kombinationen med öppen källkod är LiteLLM-proxyn som OpenAI-kompatibel gateway och vLLM som modellserver, båda på Kubernetes. Då hör servrar, uppdateringar, jour och ett avtal med varje modelleverantör till ert team.
Egen LLM-gateway eller managed tjänst för 100 utvecklare
Standard Compute, AI-gatewayen från Standard Compute AS i Oslo, Norge, är den managed varianten: ett OpenAI- och Anthropic-kompatibelt API för Claude, GPT, Gemini och öppna modeller, utan servrar, uppdateringar eller jour för ert team. Teams-plattformen kostar 0 USD och Enterprise 1 499 USD i månaden som självbetjäning, med SSO, listor över godkända leverantörer, granskningslogg och signerat biträdesavtal, och var och en av de 100 utvecklarna får en egen nyckel med fast månadsbudget. En LiteLLM i egen drift byter den avgiften mot egna servrar, drift och ett avtal med varje modelleverantör.
Egen drift eller managed: vad som hör till ert team
Komponenterna enligt egen dokumentation, kontrollerad den 18 november 2026, bredvid den managed varianten.
| LiteLLM-proxy (egen drift) | vLLM (egen drift) | Standard Compute (managed) | |
|---|---|---|---|
| Roll | LiteLLM-proxy (egen drift): OpenAI-kompatibel gateway framför många leverantörer | vLLM (egen drift): Modellserver för öppna vikter med OpenAI-kompatibel server | Standard Compute (managed): Gateway med frontier- och öppna modeller bakom ett API |
| Drift | LiteLLM-proxy (egen drift): Ert team (Helm-chart eller Kubernetes-manifest) | vLLM (egen drift): Ert team, med egna GPU:er | Standard Compute (managed): Inget att driva. EU-gateway i Finland, kontouppgifter i Frankfurt |
| SSO och granskningslogg | LiteLLM-proxy (egen drift): SSO gratis upp till 5 användare; därutöver och för granskningsloggar en Enterprise-licens, pris efter användning på förfrågan | vLLM (egen drift): Ingår inte | Standard Compute (managed): SAML-SSO med Microsoft Entra ID 399 USD, granskningslogg för administratörer 199 USD, eller allt i Enterprise |
| Modellavtal | LiteLLM-proxy (egen drift): Ett avtal och en faktura per leverantör | vLLM (egen drift): Inga för egna modeller | Standard Compute (managed): En leverantör och en faktura för alla modeller |
| Avbrott hos en leverantör | LiteLLM-proxy (egen drift): Reservvägar som ni konfigurerar | vLLM (egen drift): Er egen redundans | Standard Compute (managed): Automatiskt byte till en annan godkänd leverantör av samma modell, inom era regler |
Källor längst ned på sidan. Priser för Standard Compute i amerikanska dollar, se /pricing.
Vad lönar sig för ett företag med 100 utvecklare?
För 100 utvecklare väger driften tyngre än licensen. En gateway i egen drift behöver servrar och databas, uppdateringar, övervakning, jour och en säkerhetsgranskning av varje modelleverantör bakom den. Det arbetet uppstår även om programvaran är gratis, och SSO för fler än 5 användare kräver en Enterprise-licens hos LiteLLM.
Med Standard Compute får varje utvecklare en egen nyckel med fast månadsplan, Claude Code och andra agenter körs utan 5-timmars- eller veckogränser tills månadsbudgeten är förbrukad, och kostnaden är känd innan ni börjar. Egen drift lönar sig främst när en öppen modell bär det mesta av trafiken jämnt och GPU:erna utnyttjas fullt hela tiden.
| Funktion | Per månad | Vad den gör |
|---|---|---|
| Teams-plattformen | Per månad: 0 USD | Vad den gör: Team, inbjudningar via e-post och en nyckel för varje person och varje app under ett företagskonto |
| Europa-regel och zero data retention | Per månad: Gratis | Vad den gör: Per företag, team eller nyckel |
| Listor över godkända leverantörer | Per månad: 199 USD | Vad den gör: Ni bestämmer vilka inferensleverantörer som får behandla era data. Reservvägar kan aldrig gå runt listan |
| Granskningslogg för administratörer | Per månad: 199 USD | Vad den gör: Varje ändring en administratör gör av personer, nycklar, budgetar och regler, med värdena före och efter |
| Export av förfrågningar | Per månad: 299 USD | Vad den gör: Modell, leverantören som betjänade förfrågan, regionregel och status för varje förfrågan |
| Signerat personuppgiftsbiträdesavtal | Per månad: 299 USD | Vad den gör: Biträdesavtalet signeras i dashboarden på några minuter |
| SSO (SAML, inklusive Microsoft Entra ID) | Per månad: 399 USD | Vad den gör: Inloggning med jobbkontot; alla på den verifierade domänen ansluts automatiskt till företaget |
| Tillgänglighets-SLA och 12 månaders loggar | Per månad: 399 USD | Vad den gör: 99,9 % tillgänglighet per månad med servicekrediter, förfrågningsposter sparade i 12 månader |
| Enterprise | Per månad: 1 499 USD | Vad den gör: Alla funktioner ovan i en plan, som självbetjäning |
Priser i amerikanska dollar, se /pricing. Modellanvändningen betalas som fasta månadsplaner per person eller app.
Kombinera båda: egen modell och managed gateway
Många företag använder båda: en modell i egen drift för det känsligaste arbetet och hostade modeller för resten. LiteLLM kan routa till er egen vLLM-endpunkt och till varje OpenAI-kompatibel endpunkt, även Standard Compute för Claude, GPT, Gemini och de öppna modeller ni inte driver själva.
Applikationerna behåller en bas-URL, den egna modellen stannar i ert kluster, och den hostade trafiken får listor över godkända leverantörer, Europa-regel och budget per nyckel. Europa omfattar här EU/EES, Storbritannien och Schweiz.
model_list:
- model_name: intern-llm
litellm_params:
model: hosted_vllm/intern-llm
api_base: http://vllm.internal:8000/v1
- model_name: standardcompute
litellm_params:
model: openai/standardcompute
api_base: https://eu.stdcmpt.com/v1
api_key: os.environ/STANDARD_COMPUTE_KEYDataskydd utan eget kluster
Sätt en Europa-regel för företaget, ett team eller en enskild nyckel, så betjänas varje förfrågan, även nya försök och reservvägar, bara av godkända europeiska inferensendpunkter. Kan ingen europeisk endpunkt betjäna den avvisas den innan er prompt skickas. Vår EU-gateway terminerar TLS och körs i Finland, och era kontouppgifter lagras i Frankfurt.
Vi behandlar era prompter i minnet för att betjäna varje förfrågan och skriver dem aldrig till lagring eller loggar. Ni signerar vårt personuppgiftsbiträdesavtal i dashboarden på några minuter. Det förbinder oss till ingen träning på era data, ingen lagring av ert innehåll och anmälan av personuppgiftsincidenter inom 72 timmar.
Frågor från IT, säkerhet och ekonomi
- Är egen drift billigare än en managed gateway?
- Det är billigare när en öppen modell bär jämn, hög trafik på GPU:er som ni utnyttjar fullt. För blandat arbete kostar Standard Compute, med routing till den billigaste lämpliga modellen och fasta planer per person eller app, oftast mindre än outnyttjad hårdvara plus personalen som driver den.
- Vad kostar det att driva LiteLLM för 100 utvecklare?
- Programvaran med öppen källkod är gratis. Till det kommer servrar och databas, uppdateringar, jour och avtal med varje modelleverantör; SSO för fler än 5 användare och granskningsloggar kräver en Enterprise-licens, som LiteLLM prissätter efter användning på förfrågan. Hos Standard Compute kostar Teams-plattformen 0 USD och Enterprise 1 499 USD i månaden.
- Kan Standard Compute hålla data i Europa som ett eget kluster?
- Sätt en Europa-regel för företaget, ett team eller en enskild nyckel, så betjänas varje förfrågan, även nya försök och reservvägar, bara av godkända europeiska inferensendpunkter. Kan ingen europeisk endpunkt betjäna den avvisas den innan er prompt skickas. Europa omfattar här EU/EES, Storbritannien och Schweiz.
- Sparar Standard Compute prompter?
- Vi behandlar era prompter i minnet för att betjäna varje förfrågan och skriver dem aldrig till lagring eller loggar. Standard Compute tränar aldrig på era prompter eller svar.
- Lönar sig en LLM-gateway i egen drift för 100 utvecklare?
- Oftast inte, så länge inte en öppen modell bär det mesta av trafiken jämnt. Drift, SSO och granskningsloggar via en Enterprise-licens och ett avtal per modelleverantör kostar mer än en managed gateway; hos Standard Compute kostar Teams-plattformen 0 USD och Enterprise 1 499 USD i månaden.
Relaterade sidor
- Suverän AI för företag: egen drift eller en europeisk gateway
- Privat LLM för företag: egen drift eller ett privat API
- LiteLLM eller Kong AI Gateway
- GDPR-kompatibelt LLM-API: Claude och GPT med biträdesavtal
- En faktura för OpenAI, Anthropic, Mistral och andra AI-leverantörer
- Self-hosted LLM gateway vs managed (engelska)
- AI-gateway för företag
- Priser för team och Enterprise
- Säkerhet och databehandling (engelska)