Ist unser LLM-Anwendungsfall hochriskant nach der KI-Verordnung? Anhang III für Unternehmen mit KI-APIs

Gehen Sie die Fragen für jeden Einsatz durch. Dasselbe LLM kann in einem Team in einem unkritischen und in einem anderen in einem hochriskanten Einsatz laufen.

Die Tabelle ist unsere Lesart von Anhang III für typische Einsätze von LLM-APIs. Entscheidend ist die Zweckbestimmung, nach Artikel 3 Nummer 12 die Verwendung, für die ein System bestimmt ist, einschließlich des konkreten Kontexts und der Bedingungen der Verwendung.

Artikel 6 Absatz 3 nimmt ein Anhang-III-System aus dem Hochrisiko heraus, wenn es kein erhebliches Risiko der Beeinträchtigung der Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, unter anderem indem es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst. Eine von vier Bedingungen muss erfüllt sein: Das System führt eine eng gefasste Verfahrensaufgabe durch; es verbessert das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit; es erkennt Entscheidungsmuster oder Abweichungen, ohne die menschliche Bewertung ohne angemessene Überprüfung zu ersetzen oder zu beeinflussen; oder es führt eine vorbereitende Aufgabe für eine Bewertung durch, die für einen Anhang-III-Einsatz relevant ist.

Unterabsatz 3 lautet: „Ungeachtet des Unterabsatzes 1 gilt ein in Anhang III aufgeführtes KI-System immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt.“ Ein Werkzeug, das Bewerber rankt oder Beschäftigte bewertet, bewertet Menschen und kann die Ausnahme nicht nutzen.

Nach Artikel 6 Absatz 4 trifft der Anbieter diese Entscheidung, dokumentiert sie vor dem Inverkehrbringen oder der Inbetriebnahme und legt die Dokumentation den nationalen Behörden auf Verlangen vor. Nach Artikel 49 Absatz 2 registriert dieser Anbieter sich und das System außerdem in der EU-Datenbank. Die Verordnung (EU) 2026/1744 hat diese Registrierung beibehalten und die verlangten Angaben gekürzt, indem sie die Nummern 7 und 9 in Anhang VIII Abschnitt B gestrichen hat. Artikel 6 Absatz 3, Artikel 6 Absatz 4 und Anhang III hat sie nicht geändert.

Artikel 6 Absatz 5 verlangte von der Kommission bis zum 2. Februar 2026 Leitlinien mit praktischen Beispielen. Die Kommission hat am 19. Mai 2026 einen Entwurf zur Konsultation veröffentlicht. Am 9. November 2026 war keine endgültige Fassung angenommen, daher stützt sich diese Seite nicht auf den Entwurf. Nach Artikel 7 kann die Kommission Anwendungsfälle in Anhang III durch delegierten Rechtsakt hinzufügen oder ändern.

Die meisten Unternehmen, die KI nutzen, sind Betreiber: Sie verwenden ein KI-System in eigener Verantwortung (Artikel 3 Nummer 4). Ein Unternehmen, das auf einer LLM-API ein eigenes Bewerber-Screening oder Scoring baut und unter eigenem Namen in Betrieb nimmt, ist Anbieter dieses Systems (Artikel 3 Nummer 3), mit den Anbieterpflichten für Hochrisiko-Systeme einschließlich der Konformitätsbewertung.

Artikel 25 Absatz 1 nennt drei Fälle, in denen ein Betreiber zum Anbieter eines Hochrisiko-Systems wird: Er versieht es mit seinem Namen oder seiner Marke; er nimmt eine wesentliche Veränderung vor, sodass es hochriskant bleibt; oder er verändert „die Zweckbestimmung eines KI-Systems, einschließlich eines KI-Systems mit allgemeinem Verwendungszweck, das nicht als hochriskant eingestuft wurde“, sodass es hochriskant wird. Einen allgemeinen Assistenten auf Bewerbungen anzusetzen, ist der Fall, auf den Sie achten sollten.

Die Verordnung (EU) 2026/1744 hat Artikel 25 Absatz 2 ersetzt: Der ursprüngliche Anbieter arbeitet mit dem neuen Anbieter zusammen, unter anderem indem er technische Dokumentation bereitstellt, über bekannte Grenzen und Fehlermodi informiert und gezielten technischen Zugang für Tests gewährt, es sei denn, er hat klar festgelegt, dass sein System nicht in ein Hochrisiko-System umgewandelt werden darf.

Diese Pflichten gelten für Anhang-III-Systeme ab dem 2. Dezember 2027. Artikel 26 wurde durch die Verordnung (EU) 2026/1744 nicht geändert.

Ein Gateway macht einen Hochrisiko-Einsatz nicht konform. Es stuft Ihre Einsätze nicht ein, übernimmt keine menschliche Aufsicht, führt keine Grundrechte-Folgenabschätzung durch und erzeugt nicht die Protokolle, die ein Hochrisiko-System erzeugen muss. Das bleibt beim Anbieter und bei Ihnen als Betreiber.

Es kann festhalten, auf welchen Modellen und Anbietern jeder Einsatz läuft. Standard Compute ist eine Möglichkeit dafür, für Modell-APIs, Claude Code und Claude Desktop: Jede Person und jede Anwendung erhält einen eigenen Schlüssel, alles unter einem Firmenkonto, und Sie legen fest, welche Modelle jeder Schlüssel nutzen darf. Wählen Sie genau, welche Inferenzanbieter Ihre Daten verarbeiten dürfen, für das ganze Unternehmen, ein Team oder einen einzelnen Schlüssel.

Jede Admin-Änderung wird mit dem Wert vorher und nachher protokolliert, und Sie können einen Nachweis jeder Anfrage exportieren, der das Modell, den bedienenden Anbieter und die geltende Regionsregel zeigt, 12 Monate lang aufbewahrt. Anfragedatensätze enthalten nur Metadaten, nie Ihre Prompts oder Ausgaben.