EN 18286, die erste harmonisierte Norm zur KI-Verordnung, für Unternehmen, die KI nutzen

Die EN 18286 ist die Norm für das Qualitätsmanagementsystem, das Artikel 17 von Anbietern von Hochrisiko-KI-Systemen verlangt. Artikel 17 zählt auf, was dieses System schriftlich enthalten muss, darunter ein Konzept zur Einhaltung der Regulierungsvorschriften, Kontrollen für Entwurf und Entwicklung, Prüfung und Validierung, Datenmanagement, das Risikomanagementsystem, die Beobachtung nach dem Inverkehrbringen, die Meldung schwerwiegender Vorfälle, die Aufbewahrung von Dokumentation und einen Rahmen für die Rechenschaftspflicht.

Den Normtext selbst verkaufen die nationalen Normungsorganisationen. Öffentlich sind der Titel, der Gegenstand laut Beschluss der Kommission und die Zusammenfassung von JTC 21: Anforderungen und Leitlinien für ein Qualitätsmanagementsystem, mit Anhängen, die es der ISO 9001 und der ISO/IEC 42001 zuordnen. Wer eines dieser Systeme schon betreibt, kann darauf aufbauen.

Die Vermutung reicht nur so weit wie die Norm. Artikel 40 beschränkt sie auf die Anforderungen, die eine Norm abdeckt, und die EN 18286 deckt das Qualitätsmanagement ab. Ob ein bestimmtes System genau, robust oder sicher genug ist, sagt sie nicht.

Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen in Verkehr. Ein Anbieter eines Hochrisiko-Systems braucht ein Qualitätsmanagementsystem, und die EN 18286 ist ein Weg, es aufzubauen.

Betreiber verwenden ein KI-System in eigener Verantwortung. Ein Unternehmen, das Mitarbeitenden Claude oder GPT zum Schreiben, Programmieren oder Zusammenfassen gibt oder einen internen Assistenten auf einer LLM-API baut, ist Betreiber dieser Werkzeuge. Ist eine Nutzung hochriskant, gilt Artikel 26: das System gemäß der Betriebsanleitung verwenden, die menschliche Aufsicht zuweisen, den Betrieb überwachen und den Anbieter über Risiken und schwerwiegende Vorfälle informieren sowie die vom System erzeugten Protokolle, soweit sie unter Ihrer Kontrolle stehen, mindestens sechs Monate aufbewahren.

Wann ein Betreiber zum Anbieter wird. Nach Artikel 25 gilt ein Betreiber als Anbieter eines Hochrisiko-Systems, wenn er seinen Namen oder seine Marke darauf setzt, es wesentlich verändert oder die Zweckbestimmung eines KI-Systems, auch eines KI-Systems mit allgemeinem Verwendungszweck, so ändert, dass es hochriskant wird. Wer auf einem allgemeinen Modell ein Werkzeug für die Bewerberauswahl oder die Kreditwürdigkeitsprüfung baut, sollte diese Grenze zuerst prüfen. Trifft sie zu, sind Artikel 17 und das Qualitätsmanagementsystem die eigene Pflicht des Unternehmens.

Wenn Sie ein KI-System für eine möglicherweise hochriskante Nutzung kaufen, oder ein Modell oder einen Dienst, auf dem ein Hochrisiko-System aufbauen soll, machen diese Fragen aus der Norm Einkaufsbedingungen. Übernehmen Sie sie in Ihren Anforderungskatalog oder Lieferantenfragebogen.

Die EN 18286 ist die erste der von der Kommission beauftragten harmonisierten Normen und bisher die einzige im Amtsblatt. CEN-CENELEC JTC 21 arbeitet weiter an Normen zu Risikomanagement, Daten-Governance und Datenqualität, Protokollierung, Transparenz, menschlicher Aufsicht, Genauigkeit, Robustheit, Cybersicherheit und Konformitätsbewertung. Laut JTC 21 werden mehrere zentrale Entwürfe nach ihren öffentlichen Umfragen überarbeitet. Jede Norm durchläuft die Annahme durch CEN und CENELEC, die Prüfung durch die Kommission und die Veröffentlichung im Amtsblatt, bevor sie eine Konformitätsvermutung begründet.

Für den Einkauf heißt das: Der Fragenkatalog oben wird wachsen. Bitten Sie Anbieter, Ihnen mitzuteilen, wenn sie eine neu veröffentlichte Norm anwenden, und prüfen Sie die Antworten, bevor die Hochrisiko-Regeln am 2. Dezember 2027 für Systeme nach Anhang III gelten.

Was auch immer Ihre Anbieter antworten: Ein Betreiber braucht eine eigene Aufzeichnung, welche Modelle und Anbieter jede Anwendung nutzt. Standard Compute ist ein Weg, diese Aufzeichnung für die API-Nutzung zu führen. Jede Admin-Änderung wird mit Vorher- und Nachher-Werten protokolliert, und Sie können zu jeder Anfrage einen Datensatz mit Modell, ausführendem Anbieter und geltender Regionsregel exportieren, aufbewahrt für 12 Monate.

Legen Sie fest, welche Modelle jeder Schlüssel nutzen darf, damit jede App und jede Person genau die freigegebenen Modelle bekommt. Wählen Sie, welche Inferenz-Anbieter Ihre Daten verarbeiten dürfen, für das ganze Unternehmen, ein Team oder einen einzelnen Schlüssel. Mit einer Europa-Regel wird jede Anfrage, einschließlich Wiederholungen und Fallbacks, nur von freigegebenen europäischen Inferenz-Endpunkten bedient.

Das sind Gateway-Aufzeichnungen über die Nutzung von Modellen und Anbietern. Die Protokolle nach Artikel 26 Absatz 6 sind die, die ein Hochrisiko-System selbst erzeugt. Was die KI-Verordnung von Ihrem Unternehmen verlangt, entscheidet Ihre Rechtsabteilung.