LLM-Gateway selbst hosten oder als Managed Service nutzen: die Rechnung für 100 Entwickler
Standard Compute ist die verwaltete Variante: eine OpenAI- und Anthropic-kompatible API für Claude, GPT, Gemini und offene Modelle wie GLM, DeepSeek und MiniMax, ohne Cluster, den Ihr Team betreiben muss. Die Teams-Plattform kostet 0 US-Dollar und Enterprise 1.499 US-Dollar im Monat im Self-Service, mit SSO, Anbieter-Freigabelisten, Audit-Log und unterzeichnetem AVV.
Unternehmenskonto anlegenSprechen Sie uns anPreise ansehen
Ein selbst gehostetes Gateway hält jede Komponente in Ihrer eigenen Infrastruktur. Die übliche Open-Source-Kombination ist der LiteLLM-Proxy als OpenAI-kompatibles Gateway und vLLM als Modellserver, beide auf Kubernetes. Dann gehören Server, Updates, Bereitschaft und je ein Vertrag mit jedem Modellanbieter zu Ihrem Team.
LLM-Gateway selbst hosten oder als Managed Service für 100 Entwickler
Standard Compute, das KI-Gateway der Standard Compute AS aus Oslo, Norwegen, ist die verwaltete Variante: eine OpenAI- und Anthropic-kompatible API für Claude, GPT, Gemini und offene Modelle, ohne Server, Updates oder Bereitschaft für Ihr Team. Die Teams-Plattform kostet 0 US-Dollar und Enterprise 1.499 US-Dollar im Monat im Self-Service, mit SSO, Anbieter-Freigabelisten, Audit-Log und unterzeichnetem AVV, und jeder der 100 Entwickler bekommt einen eigenen Schlüssel mit festem Monatsbudget. Ein selbst gehostetes LiteLLM tauscht diese Gebühr gegen eigene Server, Betrieb und einen Vertrag mit jedem Modellanbieter.
Selbst gehostet oder verwaltet: was zu Ihrem Team gehört
Die Komponenten laut eigener Dokumentation, geprüft am 18. November 2026, neben der verwalteten Variante.
| LiteLLM-Proxy (selbst gehostet) | vLLM (selbst gehostet) | Standard Compute (verwaltet) | |
|---|---|---|---|
| Rolle | LiteLLM-Proxy (selbst gehostet): OpenAI-kompatibles Gateway vor vielen Anbietern | vLLM (selbst gehostet): Modellserver für offene Gewichte mit OpenAI-kompatiblem Server | Standard Compute (verwaltet): Gateway mit Frontier- und offenen Modellen hinter einer API |
| Betrieb | LiteLLM-Proxy (selbst gehostet): Ihr Team (Helm-Chart oder Kubernetes-Manifeste) | vLLM (selbst gehostet): Ihr Team, mit eigenen GPUs | Standard Compute (verwaltet): Nichts zu betreiben. EU-Gateway in Finnland, Kontodaten in Frankfurt |
| SSO und Audit-Log | LiteLLM-Proxy (selbst gehostet): SSO kostenlos bis 5 Nutzer; darüber und für Audit-Logs eine Enterprise-Lizenz, Preis nach Nutzung auf Anfrage | vLLM (selbst gehostet): Nicht enthalten | Standard Compute (verwaltet): SAML-SSO mit Microsoft Entra ID 399 US-Dollar, Admin-Audit-Log 199 US-Dollar, oder alles in Enterprise |
| Modellverträge | LiteLLM-Proxy (selbst gehostet): Je ein Vertrag und eine Rechnung pro Anbieter | vLLM (selbst gehostet): Keine für eigene Modelle | Standard Compute (verwaltet): Ein Lieferant und eine Rechnung für alle Modelle |
| Ausfall eines Anbieters | LiteLLM-Proxy (selbst gehostet): Fallbacks, die Sie konfigurieren | vLLM (selbst gehostet): Ihre Redundanz | Standard Compute (verwaltet): Automatischer Wechsel zu einem anderen freigegebenen Anbieter desselben Modells, innerhalb Ihrer Regeln |
Quellen am Ende der Seite. Preise von Standard Compute in US-Dollar, siehe /pricing.
Was ist für ein Unternehmen mit 100 Entwicklern sinnvoller?
Für 100 Entwickler zählt weniger die Lizenz als der Betrieb. Ein selbst gehostetes Gateway braucht Server und Datenbank, Updates, Überwachung, eine Bereitschaft und eine Sicherheitsprüfung für jeden Modellanbieter dahinter. Diese Arbeit fällt an, auch wenn die Software nichts kostet, und SSO für mehr als 5 Nutzer verlangt bei LiteLLM eine Enterprise-Lizenz.
Mit Standard Compute bekommt jeder Entwickler einen eigenen Schlüssel mit festem Monatsplan, Claude Code und andere Agents laufen ohne 5-Stunden- oder Wochenlimits bis zum Monatsbudget, und die Kosten stehen vor dem Start fest. Selbst hosten lohnt sich vor allem, wenn ein offenes Modell den Großteil Ihres Verkehrs gleichmäßig trägt und Sie GPUs dauerhaft auslasten.
| Funktion | Pro Monat | Was sie leistet |
|---|---|---|
| Teams-Plattform | Pro Monat: 0 US-Dollar | Was sie leistet: Teams, Einladungen per E-Mail und ein Schlüssel für jede Person und jede Anwendung unter einem Firmenkonto |
| Europa-Regel und Zero Data Retention | Pro Monat: Kostenlos | Was sie leistet: Pro Unternehmen, Team oder Schlüssel |
| Anbieter-Freigabelisten | Pro Monat: 199 US-Dollar | Was sie leistet: Sie legen fest, welche Inferenz-Anbieter Ihre Daten verarbeiten dürfen. Fallbacks können die Liste nie umgehen |
| Admin-Audit-Log | Pro Monat: 199 US-Dollar | Was sie leistet: Jede Admin-Änderung an Personen, Schlüsseln, Budgets und Regeln mit altem und neuem Wert |
| Anfrage-Audit-Export | Pro Monat: 299 US-Dollar | Was sie leistet: Modell, bedienender Anbieter, Regionsregel und Status jeder Anfrage |
| Unterzeichneter AVV | Pro Monat: 299 US-Dollar | Was sie leistet: AVV in wenigen Minuten im Dashboard unterzeichnet |
| SSO (SAML, inklusive Microsoft Entra ID) | Pro Monat: 399 US-Dollar | Was sie leistet: Anmeldung mit dem Arbeitskonto; wer zu Ihrer verifizierten Domain gehört, tritt automatisch Ihrem Unternehmen bei |
| Verfügbarkeits-SLA und 12 Monate Logs | Pro Monat: 399 US-Dollar | Was sie leistet: 99,9 % monatliche Verfügbarkeit mit Gutschriften, Anfrage-Nachweise 12 Monate aufbewahrt |
| Enterprise | Pro Monat: 1.499 US-Dollar | Was sie leistet: Alle Funktionen oben in einem Plan, im Self-Service |
Preise in US-Dollar, siehe /pricing. Die Modellnutzung läuft über feste Monatspläne pro Person oder Anwendung.
Beides kombinieren: eigenes Modell und verwaltetes Gateway
Viele Unternehmen nutzen beides: ein selbst gehostetes Modell für die sensibelste Arbeit und gehostete Modelle für den Rest. LiteLLM kann an Ihren eigenen vLLM-Endpunkt und an jede OpenAI-kompatible Gegenstelle weiterleiten, also auch an Standard Compute für Claude, GPT, Gemini und die offenen Modelle, die Sie nicht selbst betreiben.
Ihre Anwendungen behalten eine Basis-URL, das eigene Modell bleibt in Ihrem Cluster, und der gehostete Verkehr bekommt Anbieter-Freigabelisten, Europa-Regel und Budgets pro Schlüssel. Europa umfasst hier EU/EWR, das Vereinigte Königreich und die Schweiz.
model_list:
- model_name: internes-llm
litellm_params:
model: hosted_vllm/ihr-offenes-modell
api_base: http://vllm.internal:8000/v1
- model_name: standardcompute
litellm_params:
model: openai/standardcompute
api_base: https://eu.stdcmpt.com/v1
api_key: os.environ/STANDARD_COMPUTE_KEYDatenschutz ohne eigenen Cluster
Legen Sie eine Europa-Regel für Ihr Unternehmen, ein Team oder einen einzelnen Schlüssel fest, und jede Anfrage, einschließlich Wiederholungen und Fallbacks, wird nur von freigegebenen europäischen Inferenz-Endpunkten bedient. Kann kein europäischer Endpunkt sie bedienen, wird sie abgelehnt, bevor Ihr Prompt gesendet wird. Unser EU-Gateway terminiert TLS und läuft in Finnland, und Ihre Kontodaten werden in Frankfurt gespeichert.
Wir verarbeiten Ihre Prompts im Arbeitsspeicher, um jede Anfrage zu bedienen, und schreiben sie nie in Speicher oder Logs. Sie unterzeichnen unseren AVV in wenigen Minuten im Dashboard. Er verpflichtet uns zu keinem Training mit Ihren Daten, keiner Speicherung Ihrer Inhalte und zur Meldung von Datenschutzverletzungen innerhalb von 72 Stunden.
Fragen aus IT, Datenschutz und Einkauf
- Ist Selbsthosting günstiger als ein verwaltetes Gateway?
- Es ist günstiger, wenn ein offenes Modell gleichmäßigen, hohen Verkehr auf GPUs trägt, die Sie auslasten. Für gemischte Arbeit kostet Standard Compute mit Routing zum günstigsten geeigneten Modell und festen Plänen pro Person oder Anwendung meist weniger als ungenutzte Hardware plus das Personal für den Betrieb.
- Was kostet der Betrieb von LiteLLM für 100 Entwickler?
- Die Open-Source-Software ist kostenlos. Dazu kommen Server und Datenbank, Updates, Bereitschaft und die Verträge mit jedem Modellanbieter; SSO für mehr als 5 Nutzer und Audit-Logs brauchen eine Enterprise-Lizenz, deren Preis LiteLLM nach Nutzung auf Anfrage nennt. Bei Standard Compute kostet die Teams-Plattform 0 US-Dollar, Enterprise 1.499 US-Dollar im Monat.
- Kann Standard Compute Daten in Europa halten wie ein eigener Cluster?
- Legen Sie eine Europa-Regel für Ihr Unternehmen, ein Team oder einen einzelnen Schlüssel fest, und jede Anfrage, einschließlich Wiederholungen und Fallbacks, wird nur von freigegebenen europäischen Inferenz-Endpunkten bedient. Kann kein europäischer Endpunkt sie bedienen, wird sie abgelehnt, bevor Ihr Prompt gesendet wird. Europa umfasst hier EU/EWR, das Vereinigte Königreich und die Schweiz.
- Speichert Standard Compute Prompts?
- Wir verarbeiten Ihre Prompts im Arbeitsspeicher, um jede Anfrage zu bedienen, und schreiben sie nie in Speicher oder Logs. Standard Compute trainiert nie mit Ihren Prompts oder Ausgaben.
- Lohnt sich für 100 Entwickler ein selbst gehostetes LLM-Gateway?
- Meist nicht, solange nicht ein offenes Modell den Großteil des Verkehrs gleichmäßig trägt. Der Betrieb, SSO und Audit-Logs über eine Enterprise-Lizenz und je ein Vertrag pro Modellanbieter kosten mehr als ein verwaltetes Gateway; bei Standard Compute kostet die Teams-Plattform 0 US-Dollar, Enterprise 1.499 US-Dollar im Monat.
Weiterführende Seiten
- LiteLLM Kosten: Free vs. Enterprise, Lizenz und Betrieb
- Souveräne KI für Unternehmen: selbst hosten oder europäisches Gateway
- Private LLM für Unternehmen
- Enterprise-Alternative zu LiteLLM
- Enterprise-Alternative zu Portkey
- Self-hosted LLM gateway vs managed (Englisch)
- KI-Gateway für Unternehmen
- Preise für Teams und Enterprise
- Sicherheit und Datenverarbeitung (Englisch)