Glossar: KI im Unternehmen

Kurze Definitionen der Begriffe, die beim Einkauf, bei der Absicherung und bei der Steuerung von KI im Unternehmen fallen: Gateways und Routing, Datenschutz, Identität, Kostenkontrolle und Regulierung.

Jeder Eintrag beginnt mit der Definition, dann folgen die Bedeutung für Unternehmen, ein konkretes Beispiel und die Umsetzung in Standard Compute.

Von Standard Compute · Zuletzt aktualisiert am 9. November 2026 · English

Gateways, Routing und Kapazität

KI-Gateway: Ein KI-Gateway ist ein zentraler Dienst zwischen den Anwendungen eines Unternehmens und den KI-Modellanbietern, die es nutzt.
LLM-Router: Ein LLM-Router ist Software, die pro Anfrage entscheidet, welches große Sprachmodell und welcher Anbieter antworten soll.
Modell-Routing: Modell-Routing bedeutet, jede KI-Anfrage an ein für diese Anfrage gewähltes Modell zu schicken, statt alles an ein festes Modell.
Tokens pro Sekunde: Tokens pro Sekunde (TPS) sind die Geschwindigkeit, mit der ein Modell seine Antwort erzeugt, gemessen in Ausgabe-Tokens pro Sekunde für eine Anfrage.
Rate Limit und Kontingent: Ein Rate Limit begrenzt, wie schnell Sie ein KI-Modell aufrufen können, etwa Anfragen oder Tokens pro Minute.
Provisioned Throughput (PTU): Provisioned Throughput ist reservierte Modellkapazität: Sie bezahlen pro Stunde für eine feste Verarbeitungsmenge, ob Sie sie nutzen oder nicht, und erhalten dafür planbaren Durchsatz und planbare Latenz.

Datenschutz und Verarbeitungsort

Zero Data Retention (ZDR): Zero Data Retention (ZDR) bedeutet, dass der KI-Anbieter nach der Antwort keine Kopie von Prompts oder Ausgaben behält.
Zusage: kein Training: Eine No-Training-Zusage ist die vertragliche Verpflichtung eines KI-Anbieters, Ihre Prompts, Dateien oder Ausgaben nicht zum Training oder zur Verbesserung seiner Modelle zu verwenden.
Datenresidenz: Datenresidenz ist die Vorgabe, dass Daten in einem bestimmten Land oder einer bestimmten Region gespeichert und oft auch verarbeitet werden.
Regionale Verarbeitung (Europa-Regel): Regionale Verarbeitung ist eine Routing-Regel, nach der KI-Anfragen nur von Inferenz-Endpunkten in einer freigegebenen Region bedient werden.
BYOK (Bring Your Own Key): BYOK (Bring Your Own Key) bedeutet, dass Sie einem fremden Werkzeug Ihre eigenen Schlüssel geben.
Souveräne KI: Souveräne KI heißt, ein Unternehmen oder eine Behörde nutzt KI unter eigener Rechtsordnung und Kontrolle.

Identität und Zugriff

SSO, SAML und Microsoft Entra für KI-Tools: Single Sign-on (SSO) für KI-Tools lässt Mitarbeitende sich mit ihrer Unternehmensidentität bei KI-Diensten anmelden, etwa mit einem Arbeitskonto in Microsoft Entra ID, statt mit einem eigenen Passwort.
SCIM: SCIM (System for Cross-domain Identity Management) ist ein offener Standard, um Benutzerkonten und Gruppen in einer Anwendung automatisch anzulegen, zu ändern und zu entfernen, gesteuert vom Identitätsanbieter.
Anbieter-Allowlist: Eine Anbieter-Allowlist ist die Liste der Inferenz-Anbieter, etwa die API eines Modellherstellers oder eine bestimmte Cloud, die KI-Anfragen eines Unternehmens verarbeiten dürfen.
Modell-Allowlist: Eine Modell-Allowlist legt fest, welche KI-Modelle eine Person, ein Team oder eine Anwendung aufrufen darf.

Kostenkontrolle

Budget pro Schlüssel: Ein Budget pro Schlüssel ist ein Ausgabenlimit, das an einem einzelnen API-Schlüssel hängt, sodass die Person oder Anwendung mit diesem Schlüssel in einem Zeitraum nie mehr als ihren Betrag ausgeben kann.
Ausgabenlimit: Ein Ausgabenlimit ist eine harte Obergrenze für KI-Ausgaben eines Kontos, eines Schlüssels oder eines Zeitraums.

Governance und Regulierung

Audit-Log für KI: Ein Audit-Log für KI ist ein Protokoll darüber, wer KI-Einstellungen geändert hat und wie KI genutzt wurde: Admin-Änderungen an Personen, Schlüsseln und Regeln, und für jede Anfrage, welches Modell und welcher Anbieter sie unter welcher Regel bedient hat.
KI-Nutzungsrichtlinie: Eine KI-Nutzungsrichtlinie enthält die schriftlichen Regeln eines Unternehmens für KI-Werkzeuge bei der Arbeit: welche Tools freigegeben sind, welche Daten in Prompts dürfen, wie Ergebnisse geprüft werden und wem man meldet, wenn etwas schiefgeht.
Betreiber nach der KI-Verordnung: Nach der KI-Verordnung (EU AI Act) ist Betreiber eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet (Artikel 3 Nummer 4).

Standard Compute ist ein KI-Gateway für Unternehmen, mit Frontier- und Open-Source-Modellen über eine API. Ihre Admins legen fest, wo Anfragen verarbeitet werden, welche Anbieter und Modelle erlaubt sind und was jede Person und App ausgeben darf.

Unternehmenskonto anlegenoder schreiben Sie an contact@standardcompute.com