Welche OpenRouter-Alternative eignet sich für Agents im Produktivbetrieb?
Standard Compute: Das Routing schickt jeden Schritt an das günstigste Modell, das ihn schafft, bei Anbietern, die wir auf Preis, Verfügbarkeit und Geschwindigkeit prüfen, mit automatischem Fallback, und das Monatsbudget jedes Schlüssels stoppt neue Anfragen, statt überzulaufen. Optionale Compliance-Regeln für Europa oder die USA gelten für einen Schlüssel, ein Team oder die ganze Firma, und wir trainieren nicht mit Ihren Prompts und speichern sie nicht.
# Ein Schlüssel pro Dienst, damit Ausgaben und Logs getrennt bleiben
import os
from openai import OpenAI, APIStatusError
client = OpenAI(
base_url="https://api.stdcmpt.com/v1",
api_key=os.environ["STANDARD_COMPUTE_API_KEY"],
max_retries=3, # wartet bei 429 und 5xx und versucht es erneut
)
try:
reply = client.chat.completions.create(
model="standardcompute", # oder eine exakte Modell-ID
messages=[{"role": "user", "content": "Fasse den fehlgeschlagenen Test zusammen"}],
)
except APIStatusError as err:
if err.status_code == 402: # Budget aufgebraucht
pause_and_alert() # das SDK wiederholt es nicht
raise
Mit dem Modell standardcompute wählt das Routing pro Anfrage, oder Sie nutzen eine exakte Katalog-ID. Claude Code braucht in jedem Modell-Slot eine Katalog-ID.
Was ein Agent im Produktivbetrieb von seinem Gateway braucht
| Bedarf | Bei Standard Compute |
|---|---|
| Weniger Kosten pro Aufgabe | Das Modell standardcompute schickt Routineschritte an effiziente Modelle und schwierigere an stärkere. Mit einer festen Modell-ID bleibt die Anfrage bei diesem Modell. |
| Anbieter, die erreichbar bleiben | Für jedes Modell legen wir eine geprüfte Anbieter-Reihenfolge fest. Fällt ein Anbieter aus, geht die Anfrage an den nächsten Anbieter desselben Modells. |
| Ausgaben, die stoppen | Am Monatsbudget eines Schlüssels bekommen neue Anfragen HTTP 402 budget_exhausted. Laufende Anfragen werden fertig, andere Schlüssel arbeiten weiter. |
| Wiederholungen | Vorübergehende Upstream-Fehler 402, 429 und 5xx werden bis zu zweimal wiederholt, unter Beachtung von Retry-After. Streams werden nur vor dem ersten Byte wiederholt. |
| Rate Limits | 300 bis 4.000 Anfragen pro Minute und Schlüssel, je nach Tarif. Darüber HTTP 429 mit Retry-After. |
| Verbrauch pro Schlüssel | Ein Request-Log pro Schlüssel mit Status, dem Modell, das geantwortet hat, Latenz und Finish Reason. Prompt- und Antworttext werden nie protokolliert. |
| Endpunkte für Agents | Chat Completions, Responses für Codex CLI und Anthropic Messages für Claude Code, alle mit Streaming, mit einem Schlüssel. |
| Schlüssel für ein Team | Ein Tarif pro Schlüssel, Admins und Mitglieder, Teams, von Admins verwaltete Schlüssel für gemeinsame Dienste und ein Audit-Log. |
Im Vergleich mit OpenRouter, Requesty, Portkey und LiteLLM
| Gateway | Abrechnung | Wer das Modell wählt | Ausgabenlimit pro Schlüssel | Fallback | SSO, SLA, Audits |
|---|---|---|---|---|---|
| Standard Compute | Tarif pro Schlüssel, 19 $ bis 249 $ im Monat mit 20 $ bis 269 $ Rechenbudget; Business ab 499 $ | Das Routing pro Anfrage, oder Sie legen ein Modell fest | Tarifbudget, dann HTTP 402 | Nächster Anbieter desselben Modells | Audit-Log; kein SSO, kein SOC 2; SLA in individuellen Business-Verträgen |
| OpenRouter | Anbieterpreis plus 5,5 % auf Guthaben, 8 % bei Business | Sie selbst, oder die Router Auto und Pareto | Guthabenlimit pro Schlüssel mit Reset-Zeitraum; Guardrail-Budgets | Standardmäßig der nächste Anbieter; eine models-Liste für Modell-Fallback | SSO/SAML und vertragliche SLAs bei Enterprise |
| Requesty | Anbieterpreis plus 5 % auf Aufladungen; eigene Schlüssel | Fallback-, Load-Balancing- und Latenz-Policies, die Sie schreiben | Monatslimit pro Schlüssel; Gruppenbudgets bei Enterprise | Fallback-Ketten und verwaltetes Failover | SSO, Audit-Logs und SLAs bei Enterprise; SOC 2 Type II in Arbeit |
| Portkey | Kostenlos bis 49 $ im Monat für Logs, plus die Rechnung jedes Anbieters | Bedingtes Routing und Gewichte, die Sie konfigurieren | Budgets pro Schlüssel und Workspace bei Enterprise und ausgewählten Pro-Tarifen | Fallbacks und Load Balancing in einer Konfiguration | SOC 2, ISO 27001, HIPAA; SSO, SCIM und SLAs bei Enterprise |
| LiteLLM, selbst gehostet | Freie Software; Sie bezahlen die Anbieter und betreiben es selbst | Sein Auto-Router-Add-on, nach Schwierigkeitsstufe, auf dem Proxy, den Sie betreiben | Budgets und RPM-Limits für virtuelle Schlüssel, mit eigener Datenbank | Fallbacks, die Sie konfigurieren | SOC 2 Type II; SSO kostenlos für bis zu 5 Nutzer; Audit-Logs und SLAs mit der Enterprise-Lizenz |
Von den Seiten der Anbieter, alle am 14. Oktober geprüft: OpenRouter-Preise und Provider-Routing, Requesty, Portkey und LiteLLM. Standard Compute ist unser Produkt.
Wann OpenRouter die bessere Wahl ist
- Sie brauchen ein Modell oder einen Upstream-Anbieter außerhalb unseres Katalogs mit 35 Modellen. OpenRouter listet über 500 Modelle von über 80 Anbietern.
- Sie wollen eigene Anbieter-Schlüssel mitbringen. BYOK unterstützen wir nicht.
- Der Einkauf braucht heute SSO/SAML, SOC 2 oder ein vertragliches SLA. Nichts davon gibt es in unseren Self-Service-Tarifen; die Statusseite veröffentlicht ein Ziel von 99,9 % Verfügbarkeit pro Monat, und ein SLA gibt es mit einem individuellen Business-Vertrag.
- Ihr Traffic ist gering oder unregelmäßig, sodass Bezahlung pro Token weniger kostet als ein Tarif. Nicht genutztes Budget wird nicht in den nächsten Monat übertragen.
- Der gesamte Weg der Anfrage muss in der EU bleiben. Siehe den Europa-Vergleich.
- Sie wollen einen zweiten Netzwerkpfad. Wir erreichen die Anbieter über OpenRouter, sodass ein großer OpenRouter-Ausfall auch uns trifft.
Wofür Standard Compute gemacht ist
Ein Tarif pro Schlüssel ab 19 $ im Monat, den das Routing für effiziente Modelle ausgibt, und ein 402-Handler in Ihrem Dienst, dort, wo Sie schon 429 behandeln.
Häufige Fragen
Ist OpenRouter zuverlässig genug für den Produktivbetrieb?
Viele Teams betreiben es produktiv: Es wechselt standardmäßig zum nächsten Anbieter und gibt die Rate Limits der Anbieter weiter. Was Teams meist nach Alternativen suchen lässt, ist die Kostenkontrolle, weil Rechnungen pro Token mit jeder Wiederholung und jedem erneut gesendeten Kontext wachsen. Standard Compute nutzt OpenRouter ebenfalls im Upstream; dazu kommen Routing pro Schritt, eine geprüfte Anbieter-Reihenfolge und ein Budget pro Schlüssel.
Was passiert, wenn ein Anbieter hinter dem Routing ausfällt?
Die Anfrage geht an den nächsten Anbieter desselben Modells, in unserer geprüften Reihenfolge. Vorübergehende Upstream-Fehler 402, 429 und 5xx werden bis zu zweimal wiederholt, unter Beachtung von Retry-After; Streams nur vor dem ersten Byte. Wir erreichen die Anbieter über OpenRouter, sodass ein großer OpenRouter-Ausfall auch uns trifft.
Was passiert mit meinem Agent, wenn ein Schlüssel sein Budget aufgebraucht hat?
Neue Anfragen auf diesem Schlüssel bekommen HTTP 402 mit dem Code budget_exhausted, bis sich der Tarif erneuert. Die OpenAI-SDKs wiederholen eine 402 nicht: Fangen Sie sie ab, pausieren Sie die Warteschlange und alarmieren Sie jemanden. Ein Admin kann den Schlüssel auf einen größeren Tarif setzen oder Pay as you go zum Verbrauch plus 15 % einschalten.
Welche Rate Limits gelten pro API-Schlüssel?
300 Anfragen pro Minute bei Starter, 600 bei Economy, 1.000 bei Standard, 2.000 bei Pro und Pro Plus, 3.000 bei Growth und 4.000 bei Scale. Darüber bekommt der Schlüssel HTTP 429 mit Retry-After und dem Code rate_limit_exceeded.
Jeder im Team hat eigene API-Keys, und die Kosten laufen auseinander. Kann ich sehen, welcher Dienst oder Entwickler was ausgegeben hat?
Ja, mit einem Schlüssel pro Dienst oder Entwickler. Jeder Schlüssel hat eine eigene Verbrauchsansicht und ein eigenes Request-Log. Admins sehen alle Firmenschlüssel, und das Audit-Log hält fest, wer Schlüssel erstellt, rotiert oder widerrufen und wer Tarife und Regeln geändert hat.
Wie ziehe ich einen produktiven Dienst von OpenRouter um?
Ändern Sie die Base-URL auf https://api.stdcmpt.com/v1, tauschen Sie den Schlüssel und setzen Sie das Modell auf standardcompute oder eine exakte Katalog-ID. Streaming, Tool Calls und die OpenAI-SDKs funktionieren wie vorher. Ziehen Sie zuerst einen Dienst um und vergleichen Sie Kosten und Fehler im Request-Log.