LiteLLM-Kosten: Enterprise-Lizenz, Selbsthosting und die verwaltete Alternative

Die Lizenz ist nur ein Teil der LiteLLM Kosten. Dazu kommen die Infrastruktur für Proxy und Datenbank, Updates, Überwachung und Bereitschaft, und für jeden Anbieter ein eigener Vertrag und eine eigene Rechnung. Diese Kosten trägt Ihr Team, auch wenn die Software nichts kostet.

Mit Standard Compute entfällt der Betrieb. Jeder Arbeitsschritt geht an das günstigste Modell, das ihn erledigen kann, und an den günstigsten Anbieter, der schnell genug ist. Sie erhalten eine Stripe-Rechnung mit Firmenname und USt-IdNr.

Langdock trennt Chat-Plätze und API. Laut Preisseite haben die Pläne Core und Work mit enthaltenen Modellen keine nutzungsabhängigen Kosten, ein Standard-Platz im Core-Plan kostet 23,20 Euro pro Person und Monat zuzüglich MwSt. Die API wird nach Nutzung abgerechnet, und laut Langdock entsprechen die Preise je Modell direkt den Preisen der Modellanbieter.

Bei Standard Compute ist auch die API-Nutzung ein fester Monatsplan pro Person oder Anwendung. Das Budget entspricht dem Preis, und am Budget stoppt der Schlüssel, statt nachzukaufen.

Legen Sie eine Europa-Regel für Ihr Unternehmen, ein Team oder einen einzelnen Schlüssel fest, und jede Anfrage, einschließlich Wiederholungen und Fallbacks, wird nur von freigegebenen europäischen Inferenz-Endpunkten bedient. Unser EU-Gateway terminiert TLS und läuft in Finnland, und Ihre Kontodaten werden in Frankfurt gespeichert.

Sie unterzeichnen unseren AVV in wenigen Minuten im Dashboard. Er verpflichtet uns zu keinem Training mit Ihren Daten, keiner Speicherung Ihrer Inhalte und zur Meldung von Datenschutzverletzungen innerhalb von 72 Stunden.