Gateway LLM in self-hosting o come servizio gestito: i conti per 100 sviluppatori
Standard Compute è l'opzione gestita: un'API compatibile con OpenAI e Anthropic per Claude, GPT, Gemini e modelli aperti come GLM, DeepSeek e MiniMax, senza un cluster da gestire per il vostro team. La piattaforma Teams costa 0 USD ed Enterprise 1.499 USD al mese in self-service, con SSO, elenchi dei fornitori consentiti, registro di audit e DPA firmato.
Crea uno spazio aziendaleContattateciVedi i prezzi
Un gateway in self-hosting tiene ogni componente nella vostra infrastruttura. La combinazione open source più comune è il proxy LiteLLM come gateway compatibile con OpenAI e vLLM come server dei modelli, entrambi su Kubernetes. A quel punto server, aggiornamenti, reperibilità e un contratto con ogni fornitore di modelli diventano lavoro del vostro team.
Gateway LLM in self-hosting o gestito per 100 sviluppatori
Standard Compute, il gateway IA di Standard Compute AS, con sede a Oslo, in Norvegia, è l'opzione gestita: un'API compatibile con OpenAI e Anthropic per Claude, GPT, Gemini e modelli aperti, senza server, aggiornamenti né reperibilità per il vostro team. La piattaforma Teams costa 0 USD ed Enterprise 1.499 USD al mese in self-service, con SSO, elenchi dei fornitori consentiti, registro di audit e DPA firmato, e ognuno dei 100 sviluppatori riceve la propria chiave con un budget mensile fisso. Un LiteLLM in self-hosting scambia quel canone con server propri, gestione e un contratto con ogni fornitore di modelli.
Self-hosting o gestito: cosa spetta al vostro team
I componenti secondo la loro documentazione, verificata il 18 novembre 2026, accanto all'opzione gestita.
| Proxy LiteLLM (self-hosted) | vLLM (self-hosted) | Standard Compute (gestito) | |
|---|---|---|---|
| Ruolo | Proxy LiteLLM (self-hosted): Gateway compatibile con OpenAI davanti a molti fornitori | vLLM (self-hosted): Server per modelli a pesi aperti con server compatibile con OpenAI | Standard Compute (gestito): Gateway con modelli frontier e aperti dietro un'unica API |
| Gestione | Proxy LiteLLM (self-hosted): Il vostro team (chart Helm o manifest Kubernetes) | vLLM (self-hosted): Il vostro team, con GPU proprie | Standard Compute (gestito): Niente da gestire. Gateway UE in Finlandia, dati dell'account a Francoforte |
| SSO e registro di audit | Proxy LiteLLM (self-hosted): SSO gratuito fino a 5 utenti; oltre, e per i log di audit, licenza Enterprise con prezzo in base all'utilizzo su richiesta | vLLM (self-hosted): Non incluso | Standard Compute (gestito): SSO SAML con Microsoft Entra ID 399 USD, registro di audit degli amministratori 199 USD, o tutto in Enterprise |
| Contratti per i modelli | Proxy LiteLLM (self-hosted): Un contratto e una fattura per fornitore | vLLM (self-hosted): Nessuno per i modelli propri | Standard Compute (gestito): Un fornitore e una fattura per tutti i modelli |
| Guasto di un fornitore | Proxy LiteLLM (self-hosted): I fallback che configurate | vLLM (self-hosted): La vostra ridondanza | Standard Compute (gestito): Passaggio automatico a un altro fornitore approvato dello stesso modello, entro le vostre regole |
Fonti in fondo alla pagina. Prezzi di Standard Compute in dollari statunitensi, vedi /pricing.
Cosa conviene a un'azienda con 100 sviluppatori?
Con 100 sviluppatori conta più la gestione della licenza. Un gateway in self-hosting richiede server e database, aggiornamenti, monitoraggio, reperibilità e una verifica di sicurezza per ogni fornitore di modelli che c'è dietro. Quel lavoro c'è anche se il software non costa nulla, e con LiteLLM l'SSO per più di 5 utenti richiede una licenza Enterprise.
Con Standard Compute ogni sviluppatore riceve la propria chiave con un piano mensile fisso, Claude Code e gli altri agenti funzionano senza limiti di 5 ore né settimanali fino al budget mensile, e il costo è noto prima che inizi il mese. Il self-hosting conviene soprattutto quando un modello aperto regge in modo stabile la maggior parte del traffico e tenete le GPU sempre occupate.
Se il vostro team di piattaforma confronta due gateway in self-hosting, la differenza di gestione e costi è in LiteLLM o Kong AI Gateway.
| Funzione | Al mese | Cosa fa |
|---|---|---|
| Piattaforma Teams | Al mese: 0 USD | Cosa fa: Team, inviti via e-mail e una chiave per ogni persona e ogni applicazione sotto un unico account aziendale |
| Regola Europa e conservazione zero | Al mese: Gratis | Cosa fa: Per azienda, team o chiave |
| Elenchi dei fornitori consentiti | Al mese: 199 USD | Cosa fa: Decidete quali fornitori di inferenza possono trattare i vostri dati. I fallback non possono mai aggirare l'elenco |
| Registro di audit degli amministratori | Al mese: 199 USD | Cosa fa: Ogni modifica di un amministratore a persone, chiavi, budget e regole, con il valore prima e dopo |
| Esportazione del registro delle richieste | Al mese: 299 USD | Cosa fa: Modello, fornitore che ha servito la richiesta, regola di regione e stato di ogni richiesta |
| DPA firmato | Al mese: 299 USD | Cosa fa: Accordo sul trattamento dei dati firmato nella dashboard in pochi minuti |
| SSO (SAML, incluso Microsoft Entra ID) | Al mese: 399 USD | Cosa fa: Accesso con l'account di lavoro; chi appartiene al vostro dominio verificato entra automaticamente nell'azienda |
| SLA di disponibilità e 12 mesi di log | Al mese: 399 USD | Cosa fa: 99,9% di disponibilità mensile con crediti di servizio, registri delle richieste conservati 12 mesi |
| Enterprise | Al mese: 1.499 USD | Cosa fa: Tutte le funzioni qui sopra in un unico piano, in self-service |
Prezzi in dollari statunitensi, vedi /pricing. L'uso dei modelli segue piani mensili fissi per persona o applicazione.
Entrambi: un modello proprio e un gateway gestito
Molte aziende li combinano: un modello in self-hosting per il lavoro più sensibile e modelli ospitati per il resto. LiteLLM può inoltrare al vostro endpoint vLLM e a qualsiasi destinazione compatibile con OpenAI, quindi anche a Standard Compute per Claude, GPT, Gemini e i modelli aperti che non gestite voi.
Le vostre applicazioni mantengono un unico URL di base, il modello proprio resta nel vostro cluster e il traffico ospitato ha elenchi dei fornitori consentiti, regola Europa e budget per chiave; qui Europa comprende UE/SEE, Regno Unito e Svizzera.
model_list:
- model_name: llm-interno
litellm_params:
model: hosted_vllm/vostro-modello-aperto
api_base: http://vllm.internal:8000/v1
- model_name: standardcompute
litellm_params:
model: openai/standardcompute
api_base: https://eu.stdcmpt.com/v1
api_key: os.environ/STANDARD_COMPUTE_KEYProtezione dei dati senza un cluster proprio
Impostate una regola Europa per l'azienda, un team o una singola chiave, e ogni richiesta, compresi i nuovi tentativi e i fallback, viene servita solo da endpoint di inferenza europei approvati. Se nessun endpoint europeo può servirla, la richiesta viene rifiutata prima che il vostro prompt venga inviato. Il nostro gateway UE termina TLS e funziona in Finlandia, e i dati del vostro account sono conservati a Francoforte.
Elaboriamo i vostri prompt in memoria per servire ogni richiesta e non li scriviamo mai su disco né nei log. Firmate il nostro accordo sul trattamento dei dati (DPA) nella dashboard in pochi minuti. Ci impegna a non addestrare modelli sui vostri dati, a non conservare i vostri contenuti e a notificare le violazioni entro 72 ore.
Domande da IT, sicurezza e finanza
- Il self-hosting costa meno di un gateway gestito?
- Sì, quando un modello aperto regge un traffico alto e stabile su GPU che sfruttate al massimo. Per un lavoro misto, Standard Compute, con l'instradamento al modello adatto più economico e piani fissi per persona o applicazione, di solito costa meno dell'hardware inutilizzato più le persone che lo gestiscono.
- Quanto costa gestire LiteLLM per 100 sviluppatori?
- Il software open source è gratuito. Si aggiungono server e database, aggiornamenti, reperibilità e i contratti con ogni fornitore di modelli; SSO per più di 5 utenti e log di audit richiedono una licenza Enterprise, il cui prezzo LiteLLM indica in base all'utilizzo su richiesta. Con Standard Compute la piattaforma Teams costa 0 USD ed Enterprise 1.499 USD al mese.
- Standard Compute può tenere i dati in Europa come un cluster proprio?
- Impostate una regola Europa per l'azienda, un team o una singola chiave, e ogni richiesta, compresi i nuovi tentativi e i fallback, viene servita solo da endpoint di inferenza europei approvati. Se nessun endpoint europeo può servirla, la richiesta viene rifiutata prima che il vostro prompt venga inviato. E qui Europa comprende UE/SEE, Regno Unito e Svizzera.
- Standard Compute conserva i prompt?
- Elaboriamo i vostri prompt in memoria per servire ogni richiesta e non li scriviamo mai su disco né nei log. Standard Compute non addestra mai modelli sui vostri prompt o sulle risposte.
- Conviene un gateway LLM in self-hosting per 100 sviluppatori?
- Di solito no, a meno che un modello aperto regga in modo stabile la maggior parte del traffico. Gestione, SSO e log di audit con licenza Enterprise e un contratto per fornitore di modelli costano più di un gateway gestito; con Standard Compute la piattaforma Teams costa 0 USD ed Enterprise 1.499 USD al mese.
Pagine correlate
- LiteLLM o Kong AI Gateway: confronto
- IA sovrana per le aziende: self-hosting o un gateway europeo
- LLM privato per aziende
- Alternativa a LiteLLM per le aziende
- Alternativa a Portkey per le aziende
- Self-hosted LLM gateway vs managed (in inglese)
- Gateway IA per aziende
- Prezzi per team ed Enterprise
- Sicurezza e trattamento dei dati (in inglese)