KI im Unternehmen: was DSK und BfDI zum Datenschutz empfehlen

Was sagen DSK und BfDI in Kürze?

Was steht in der Orientierungshilfe KI der Datenschutzkonferenz?

Die DSK-Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ (Version 1.0, 6. Mai 2024) richtet sich vor allem an Verantwortliche, die KI-Anwendungen wie LLMs einsetzen. Sie verlangt festgelegte Einsatzfelder und Zwecke, eine Rechtsgrundlage für jeden Verarbeitungsschritt, bevorzugt technisch geschlossene Systeme und Anwendungen ohne Training auf Ein- und Ausgaben, und fordert dokumentierte interne Weisungen und in vielen Fällen eine DSFA.

Darf der KI-Anbieter Eingaben für das Training nutzen?

Die DSK hält Anwendungen, die Ein- und Ausgabedaten nicht zu Trainingszwecken verwenden, für datenschutzrechtlich vorzugswürdig. Die BfDI schreibt für die Bundesverwaltung, dass ein solcher Ausschluss vertraglich mit dem KI-Anbieter zu vereinbaren ist.

Braucht man eine Datenschutz-Folgenabschätzung für KI?

Nach der DSK wird eine DSFA beim Einsatz von KI-Anwendungen vielfach erforderlich sein, und der Verantwortliche sollte sicherstellen, dass der Anbieter die dafür nötigen Informationen liefert. Die BfDI nennt die DSFA für viele KI-Systeme eine gesetzliche Pflicht.

Was verlangt die Orientierungshilfe KI der DSK von Unternehmen?

Künstliche Intelligenz und Datenschutz, Orientierungshilfe, Version 1.0, Datenschutzkonferenz, 6. Mai 2024

Richtet sich vor allem an Verantwortliche, die KI-Anwendungen einsetzen, mit Schwerpunkt auf LLMs. Abschnittsnummern aus dem Dokument.

• Vor dem Einsatz explizit festlegen, in welchen Einsatzfeldern und zu welchem konkreten Zweck eine KI-Anwendung dient (1.1).
• Für jeden Verarbeitungsschritt mit personenbezogenen Daten ist eine Rechtsgrundlage erforderlich (1.5).
• Technisch geschlossene Systeme sind vorzugswürdig. Bei offenen oder Cloud-Systemen verlassen Eingaben den geschützten Bereich, und Übermittlungen in Drittländer sind häufig, sodass Kapitel V DSGVO gilt (1.7).
• Prüfen, ob Ein- und Ausgaben für das Training genutzt werden und ob es ein Opt-out gibt. Anwendungen, die Ein- und Ausgabedaten nicht zu Trainingszwecken verwenden, sind vorzugswürdig (1.9).
• Beim Einsatz eines Cloud-Anbieters liegt häufig Auftragsverarbeitung vor, mit Vertrag nach Art. 28 Abs. 3 DSGVO. Gemeinsame Verantwortlichkeit nach Art. 26 ist etwa bei Kooperationen möglich (2.1).
• Klare interne Weisungen erteilen und dokumentieren, ob, unter welchen Voraussetzungen und zu welchen Zwecken welche KI-Anwendungen eingesetzt werden dürfen, mit Beispielen für erlaubte und verbotene Nutzungen (2.2).
• Eine DSFA wird vielfach erforderlich sein. Der Verantwortliche ist auf Informationen des Anbieters angewiesen und sollte sicherstellen, dass er sie bekommt (2.3).
• Dienstliche Accounts und Geräte bereitstellen, keine Klarnamen in Accounts, Funktions-E-Mail-Adressen nutzen. Voreinstellungen so wählen, dass keine Eingabedaten zum Training verarbeitet werden und keine Eingabe-Historie über die Sitzung hinaus gespeichert wird (2.4, 2.5).
• Namen und Adressen zu entfernen reicht regelmäßig nicht, weil der Kontext eine Person identifizierbar machen kann (3.1).
• Keine automatisierten Letztentscheidungen nach Art. 22 DSGVO. Ergebnisse mit Personenbezug müssen kritisch hinterfragt und vor der Weiterverwendung geprüft werden (1.6, 3.3).

Welche technischen Maßnahmen empfiehlt die DSK für den Betrieb von KI-Systemen?

Orientierungshilfe zu empfohlenen technischen und organisatorischen Maßnahmen bei der Entwicklung und beim Betrieb von KI-Systemen, Version 1.0, Datenschutzkonferenz, Juni 2025

Richtet sich vor allem an Hersteller und Entwickler. Anwender können sie im Beschaffungsprozess nutzen.

• Die Verarbeitung personenbezogener Ein- oder Ausgaben zum weiteren Training ist eine zweckändernde Weiterverarbeitung (2.4.2).
• Dokumentieren, welche Daten durch welches KI-System verarbeitet wurden und ob sie für weiteres Training zur Verfügung gestellt werden (2.4.1).
• Filter und andere mildernde Maßnahmen sind an sich keine Löschung (2.4.4).
• Menschliche Aufsicht technisch unterstützen, etwa mit einem Status „ausstehend“, bis eine Person freigibt (2.4.4), und regelmäßige Risikoeinschätzungen, zum Beispiel durch Red Teaming (2.4.6).

Was gilt nach der DSK für KI-Systeme mit RAG?

Orientierungshilfe zu datenschutzrechtlichen Besonderheiten generativer KI-Systeme mit RAG-Methode, Version 1.0, Datenschutzkonferenz, Oktober 2025

• Ein rechtswidrig trainiertes KI-Modell bleibt auch in einem RAG-System ein rechtswidrig trainiertes Modell (1).
• Daten aus externen Quellen müssen auf Rechtmäßigkeit und Richtigkeit geprüft werden. Bei Einbindung einer Websuche werden diese Anforderungen regelmäßig nicht erfüllt (3.1).
• RAG kann einen On-Premise-Betrieb ermöglichen, sodass personenbezogene Daten nicht an Online-Betreiber großer Sprachmodelle übertragen werden. Empfohlen werden Mandantentrennung und ein Rechte- und Rollenkonzept (3.3).
• Für die Referenzdokumente und die Vektordatenbank ist eine Rechtsgrundlage erforderlich (3.6).

Was empfiehlt die BfDI in ihrer Handreichung zu KI?

KI in Behörden: Datenschutz von Anfang an mitdenken. Handreichung der BfDI für die Bundesverwaltung, BfDI, 22. Dezember 2025

Adressiert an die Bundesverwaltung. Viele Punkte betreffen jeden Verantwortlichen, der ein LLM über einen externen Anbieter nutzt.

• LLMs werden oft in Drittländern oder durch Unternehmen aus Drittländern gehostet, mit dem Risiko staatlicher Zugriffe. Die Übermittlungsregeln der DSGVO müssen eingehalten werden (1.2).
• Ein externer Hoster ist in der Regel Auftragsverarbeiter, mit Vertrag nach Art. 28 Abs. 3 DSGVO. Nutzt er die Daten für eigenes Training, ist er dafür selbst Verantwortlicher (2.2.2.1, 2.2.2.2).
• Es muss ausgeschlossen werden, dass der Anbieter Ein- und Ausgaben für das weitere Training seiner Modelle nutzen darf. Dieser Ausschluss ist vertraglich zu vereinbaren (2.14.2).
• Bei der Auswahl der Anbieter sollte gegebenenfalls berücksichtigt werden, ob sie europäische Rechenzentren nutzen (3.1.1).
• Eine DSFA ist für viele KI-Systeme gesetzlich erforderlich (2.8).
• Ausgaben mit Personenbezug müssen richtig sein (Art. 5 Abs. 1 lit. d DSGVO). Halluzinationen sind ein eigenes Risiko (2.11).
• KI-Kompetenz nach Art. 4 KI-Verordnung ist regelmäßig eine erforderliche organisatorische Maßnahme, auch beim Auftragsverarbeiter (2.13).
• Als technische Maßnahmen nennt die Handreichung Prompt- und Output-Filter für personenbezogene Daten, Guardrails und Systemprompts (3.2).

Welche Checkliste ergibt sich daraus für Ihr Unternehmen?

Eine praktische Lesart der Dokumente oben, in der Reihenfolge, in der IT, Datenschutz und Fachbereich sie meist abarbeiten.

1. Einsatzfelder und Zwecke festlegen

   Pro Anwendungsfall: Fachbereich, Zweck, betroffene Daten. Ohne festgelegten Zweck kein Einsatz.

2. Rechtsgrundlage je Verarbeitungsschritt klären

   Eingabe, Verarbeitung beim Anbieter, Ausgabe und Weiterverwendung getrennt betrachten und dokumentieren.

3. Training auf Ein- und Ausgaben ausschließen

   Per Voreinstellung und per Vertrag. Anbieter, die nicht auf Ihren Daten trainieren, sind laut DSK vorzugswürdig.

4. Verarbeitungsort und Drittlandtransfer prüfen

   Für jedes Modell festhalten, wo Prompts verarbeitet werden. Europäische Rechenzentren bei der Anbieterauswahl berücksichtigen.

5. Auftragsverarbeitungsvertrag schließen

   Vertrag nach Art. 28 Abs. 3 DSGVO, mit Unterauftragsverarbeitern und Meldung von Datenschutzverletzungen.

6. DSFA durchführen

   Mit den Informationen, die der Anbieter liefern muss. Für viele KI-Einsätze ist sie erforderlich.

7. Interne Weisungen schreiben

   Erlaubte und verbotene Nutzungen mit Beispielen, dienstliche Accounts statt privater, keine Letztentscheidung durch die KI, Ergebnisse prüfen.

8. Dokumentieren, was wohin geht

   Welche Daten durch welches System und welchen Anbieter verarbeitet wurden, unter welchen Regeln, und wer diese Regeln geändert hat.

Wie hilft ein KI-Gateway beim praktischen Teil?

Zweck, Rechtsgrundlage, DSFA und interne Weisungen bleiben Ihre Aufgabe. Standard Compute, ein KI-Gateway für Frontier- und Open-Source-Modelle, übernimmt den technischen Teil mehrerer Punkte der Liste: wo Prompts verarbeitet werden, wer sie speichert, wer welches Modell nutzen darf und was passiert ist.

Fragen aus IT, Datenschutz und Sicherheit

Verbieten DSK oder BfDI ChatGPT oder Copilot im Unternehmen?

Nein. Die hier zusammengefassten Dokumente verbieten kein Werkzeug. Sie verlangen festgelegte Zwecke, eine Rechtsgrundlage, einen Vertrag mit dem Anbieter, den Ausschluss von Training, interne Weisungen und in vielen Fällen eine DSFA.

Macht ein KI-Gateway ein Unternehmen DSGVO-konform?

Nein. Ein Gateway regelt einen technischen Teil: Verarbeitungsort der Prompts, Speicherung, erlaubte Anbieter und Modelle, Protokolle. Zweck, Rechtsgrundlage, DSFA, Information der Betroffenen und interne Weisungen bleiben Ihre Verantwortung.

Wo verarbeitet Standard Compute Prompts?

Mit einer Europa-Regel gehen Ihre Prompts über unser Gateway in Finnland ein und aus und werden nur von freigegebenen europäischen Inferenz-Endpunkten bedient, ohne Fallback außerhalb Europas. Kann kein Endpunkt die Anfrage bedienen, wird sie abgelehnt, bevor etwas gesendet wird.

Speichert Standard Compute den Inhalt von Anfragen?

Wir verarbeiten Ihre Prompts im Arbeitsspeicher, um jede Anfrage zu bedienen, und schreiben sie nie in Speicher oder Logs. Anfrage-Datensätze enthalten nur Metadaten: Modell, Anbieter, Tokens, Kosten und Status.

Offizielle Quellen

Zusammenfassung auf Grundlage dieser Dokumente, abgerufen am 9. November 2026. Sie ersetzt weder die Dokumente selbst noch eine Rechtsberatung.

• Künstliche Intelligenz und Datenschutz, Orientierungshilfe, Version 1.0 (Datenschutzkonferenz, 6. Mai 2024)
• Orientierungshilfe zu empfohlenen technischen und organisatorischen Maßnahmen bei der Entwicklung und beim Betrieb von KI-Systemen, Version 1.0 (Datenschutzkonferenz, Juni 2025)
• Orientierungshilfe zu datenschutzrechtlichen Besonderheiten generativer KI-Systeme mit RAG-Methode, Version 1.0 (Datenschutzkonferenz, Oktober 2025)
• KI in Behörden: Datenschutz von Anfang an mitdenken. Handreichung der BfDI für die Bundesverwaltung (BfDI, 22. Dezember 2025)

Weiterlesen