Laut einer repräsentativen Bitkom-Umfrage unter 504 deutschen Unternehmen scheiterte bei 31 Prozent der Befragten der Einsatz von KI- und Big-Data-Analyseverfahren an den Anforderungen der DSGVO. Für Unternehmen, die Large Language Models (LLMs) oder RAG-Architekturen einsetzen oder planen, ist dieser Befund ein konkretes Warnsignal: Wer Datenschutz nicht von Beginn an in die Systemarchitektur integriert, riskiert den Projektstopp. Ansätze wie NIST Privacy Engineering und das Prinzip Privacy-by-Design bieten einen strukturierten Rahmen, um LLM- und RAG-Systeme von Grund auf DSGVO-konform zu gestalten und so regulatorische Hürden frühzeitig zu adressieren, statt nachträglich kostspielig nachzubessern.

NIST Privacy Engineering und DSGVO: Was Datenschutz-by-Design für LLM- und RAG-Systeme bedeutet

Laut einer repräsentativen Bitkom-Befragung von 504 deutschen Unternehmen scheiterten bei 31 Prozent der Betriebe KI-Projekte wie Big-Data-Analysen oder der Einsatz von KI direkt an den Anforderungen der DSGVO. Das verdeutlicht: Ohne strukturierte Datenschutzarchitektur bleiben viele LLM-Vorhaben in der Planungsphase stecken.

Datenschutz muss in die Systemarchitektur, nicht dahinter

Behörden und Aufsichtsstellen fordern zunehmend, dass Datenschutz nicht als nachträgliche Compliance-Aufgabe behandelt wird, sondern bereits beim Entwurf von KI-Systemen verankert ist. Das Prinzip “Privacy by Design”, das die DSGVO in Artikel 25 vorschreibt, deckt sich inhaltlich mit dem Ansatz des NIST Privacy Engineering Frameworks. Beide Konzepte verlangen, dass technische und organisatorische Maßnahmen zum Schutz personenbezogener Daten von Beginn an in Systemdesign, Datenflüsse und Zugriffslogik eingebaut werden.

Für Unternehmen, die Large Language Models (LLMs) oder Retrieval-Augmented-Generation-Systeme (RAG) einsetzen, hat das konkrete Konsequenzen: Sie müssen prüfen, welche personenbezogenen Daten in Retrieval-Indizes landen, wie Zugriffe auf diese Daten protokolliert werden und wie Auskunfts- sowie Löschansprüche technisch umsetzbar sind.

Vier praktische Implikationen für Entscheider

1. Datenkategorisierung vor der Indexierung RAG-Architekturen arbeiten typischerweise mit Vektor-Datenbanken, in denen Textpassagen als numerische Repräsentationen gespeichert sind. Auch wenn die Rohdaten damit transformiert wurden, können personenbezogene Informationen rekonstruierbar bleiben. Unternehmen sollten vor der Indexierung eine Klassifikation der Eingabedaten vornehmen und festlegen, welche Kategorien überhaupt in den Retrieval-Index aufgenommen werden dürfen. Die Plattform Lernende Systeme hat in einer Publikation zu Datenschutz und KI darauf hingewiesen, dass der Datenschutz nicht gegen die Nutzung von Daten ausgespielt werden sollte, sondern beide Ziele technisch vereinbar sind.

2. Rollenbasierte Zugriffskontrolle für LLM-Anfragen Wenn ein LLM-System auf einen gemeinsamen Dokumentenindex zugreift, besteht das Risiko, dass ein Nutzer über eine Anfrage Informationen erhält, die für ihn nicht bestimmt sind. NIST empfiehlt im Kontext des AI Risk Management Frameworks, Zugriffskontrollmechanismen auf Systemebene zu implementieren, nicht allein auf Datenbankebene. Für RAG-Systeme bedeutet das: Der Retrieval-Schritt muss nutzerrollen- und berechtigungsabhängig arbeiten.

3. Zweckbindung und Löschkonzepte technisch verankern Die DSGVO schreibt vor, dass Daten nur für den Zweck verarbeitet werden dürfen, für den sie erhoben wurden. In der Praxis wird das bei LLM-Systemen häufig nicht ausreichend operationalisiert. Laut der Bitkom-Befragung gaben 41 Prozent der deutschen Unternehmen an, bei dem Aufbau von Datenpools für Analysen oder die Zusammenarbeit mit Geschäftspartnern behindert zu sein. Ein technisch umgesetztes Löschkonzept, das Datensätze auch aus Vektor-Indizes entfernt, ist Voraussetzung für die Erfüllung von Betroffenenrechten nach DSGVO-Artikel 17. Das ist im RAG-Kontext technisch anspruchsvoll und erfordert gezielte Architekturentscheidungen vom ersten Entwurf an.

4. Dokumentation als Compliance-Nachweis Sowohl NIST Privacy Engineering als auch die DSGVO verlangen nachvollziehbare Dokumentation der Datenverarbeitung. Für LLM-Systeme umfasst das die Nachvollziehbarkeit, welche Trainingsdaten verwendet wurden, wie Systemgrenzen definiert sind und welche Risikoabschätzungen vorgenommen wurden. Die EU-Kommission arbeitet derzeit im Rahmen ihrer sogenannten Simplifizierungsagenda daran, Teile der DSGVO-Bürokratie zu entlasten. Solange diese Änderungen nicht in Kraft sind, bleibt die bestehende Dokumentationspflicht vollumfänglich gültig. Unternehmen sollten laut aktuellen Berichten nicht auf Erleichterungen spekulieren, die erst als Vorschlag auf dem Tisch liegen.

Wer LLM- und RAG-Projekte datenschutzkonform umsetzen will, findet in den Anforderungen des NIST Privacy Engineering Frameworks und der DSGVO keinen Widerspruch, sondern zwei kompatible Referenzrahmen. Entscheidend ist, dass Datenschutzverantwortliche schon in der Architekturphase eingebunden werden, nicht erst bei der Abnahme.

Weitere Hintergründe zu verwandten Compliance-Fragen bieten die Artikel zu DSGVO und LLM-Auftragsverarbeitung, zu den EDPB-Leitlinien 2025 für generative KI und Datenschutz sowie zur Umsetzung des NIST AI Risk Management Frameworks in europäischen Unternehmen. Wer die Kostenstruktur selbst betriebener RAG-Systeme einschätzen möchte, findet Orientierung im Beitrag RAG im Eigenbau: Kosten.

Quellen

• Plattform Lernende Systeme: Datenschatz für KI nutzen, Datenschutz mit KI wahren (PDF)
• Heise Online: Wie der Digital-Omnibus die EU-Datenschutz- und KI-Regulierung ändern soll
• Heise Online: Datenschutz-Korrekturen gefordert: Deutsche Firmen hadern mit der DSGVO (Bitkom-Befragung, 2020)

Häufige Fragen

Was versteht man unter Privacy by Design im Kontext von LLM-Systemen, und warum ist es für Unternehmen in der EU relevant?

Privacy by Design bedeutet, dass Datenschutzanforderungen bereits bei der Systemarchitektur berücksichtigt werden, nicht erst nachträglich. Für LLM-Systeme ist das besonders relevant, weil Trainingsdaten und Inferenzprozesse personenbezogene Daten enthalten können. Die DSGVO verpflichtet Unternehmen in Art. 25 explizit zu technischen und organisatorischen Maßnahmen, die Datenschutz von Anfang an sicherstellen. Wer LLMs produktiv einsetzt, muss diesen Nachweis gegenüber Aufsichtsbehörden erbringen können.

Wie wirkt sich eine RAG-Architektur (Retrieval-Augmented Generation) auf das Datenschutzrisiko aus?

RAG-Systeme greifen zur Laufzeit auf externe Wissensdatenbanken zu, die häufig interne Unternehmensdokumente oder personenbezogene Informationen enthalten. Das erhöht das Risiko unbeabsichtigter Offenlegung, etwa wenn das Modell Inhalte aus dem Retrieval-Kontext in seinen Antworten weitergibt. Laut der deutschen Plattform Lernende Systeme ist eine klare Trennung zwischen Datenschatz und schützenden Maßnahmen entscheidend: Zugriffskontrolle, Anonymisierung im Index und Protokollierung der Abfragen sind technische Mindestvorkehrungen.

Welche konkreten Hürden schafft die DSGVO für KI-Projekte in deutschen Unternehmen?

Eine repräsentative Bitkom-Befragung von 504 Unternehmen aus dem Jahr 2020 zeigte: Bei 56 Prozent der deutschen Firmen sind innovative Projekte wegen der DSGVO gescheitert. 41 Prozent sahen sich gehindert, Datenpools mit Partnern aufzubauen, und bei 31 Prozent scheiterte der Einsatz von KI oder Big-Data-Analysen an den regulatorischen Vorgaben. 92 Prozent der Befragten forderten eine Nachbesserung der Verordnung, insbesondere bei Informationspflichten.

Was plant die EU-Kommission mit dem sogenannten Digital-Omnibus, und was bedeutet das für die DSGVO?

Die EU-Kommission verfolgt seit 2025 eine Simplifizierungsagenda, um bürokratischen Aufwand zu reduzieren. Im Rahmen des Omnibusverfahrens werden mehrere bestehende Gesetze gebündelt angepasst. Konkret ist eine Änderungsverordnung zur Digitalregulierung geplant, die auch die DSGVO vereinfachen soll. Kritiker warnen jedoch, dass dabei Bürgerrechte geschwächt werden könnten. Für Unternehmen bedeutet das: Die Rechtslage bleibt vorerst im Fluss, was eine vorausschauende technische Datenschutzarchitektur wichtiger macht, nicht unwichtiger.

Welche technischen Maßnahmen empfehlen Experten, um LLM- und RAG-Systeme DSGVO-konform zu betreiben?

Fachleute der Plattform Lernende Systeme empfehlen einen kombinierten Ansatz: Daten sollten vor dem Einsatz in KI-Systemen so weit wie möglich anonymisiert oder pseudonymisiert werden. Für RAG-Architekturen bedeutet das konkret: Zugriffs- und Rollenkonzepte für den Dokumentenindex, Filterung personenbezogener Inhalte vor der Vektorisierung sowie nachvollziehbare Löschroutinen, die den Betroffenenrechten nach Art. 17 DSGVO gerecht werden. Technische Protokollierung der Abfragen unterstützt zudem die Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.