Das BSI stuft die Cyberbedrohung für Kritische Infrastrukturen wie die Energieversorgung als hoch ein und hat im Mai 2025 ein Positionspapier zur Cybersicherheit im Energiesektor veröffentlicht, das konkrete Handlungsfelder für eine robuste Sicherheitsstrategie formuliert. Für Unternehmen und Behörden, die KI-Sprachmodelle in Sektoren wie Energie oder Wasser einsetzen, verschärft sich der Regulierungsdruck: Das BSI adressiert in seiner aktualisierten 36-seitigen LLM-Publikation (Stand Mai 2024) explizit Risiken durch ordnungsgemäße, missbräuchliche und angriffsbezogene Nutzung. NIS2 und das KRITIS-Dachgesetz verpflichten Betreiber zusätzlich zu systematischer Risikoanalyse. Wer LLMs in kritischen Infrastrukturen einsetzt, muss beide Regelwerke kombiniert berücksichtigen.

BSI verschärft Anforderungen: Sprachmodelle in Energieversorgung und Wasserkreislauf im Visier

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) stuft die Cyberbedrohungslage für kritische Infrastrukturen im Energiesektor als hoch ein und hat im Mai 2025 ein eigenes Positionspapier zur Cybersicherheit im Energiesektor veröffentlicht. Gleichzeitig gilt das aktualisierte BSI-Dokument zu Chancen und Risiken großer KI-Sprachmodelle (Stand: Mai 2024) als verbindliche Orientierungshilfe für Unternehmen und Behörden, die Large Language Models (LLMs) in sicherheitskritischen Bereichen einsetzen.

Leitfakt: Hohe Bedrohungslage trifft auf wachsenden LLM-Einsatz

Das BSI beschreibt in seiner Mitteilung vom 21. Mai 2025 drei klar definierte Angreifergruppen, die auf den Energiesektor abzielen: staatlich unterstützte Akteure mit Destabilisierungs- und Spionagezielen, Cyberkriminelle, die Energieunternehmen erpressen, sowie Hacktivisten mit ideologischen Motiven. BSI-Präsidentin Claudia Plattner bezeichnete eine erfolgreiche Störung der Energieversorgung in Deutschland oder Europa als Schreckensszenario für Bürgerinnen und Bürger, die Wirtschaft und staatliche Organe. Der knapp eintägige Stromausfall auf der iberischen Halbinsel unterstreicht, wie real diese Risiken sind.

Parallel dazu setzt die Energiewirtschaft zunehmend auf KI-gestützte Prozesse. Wer LLMs in KRITIS-Umgebungen integriert, bewegt sich damit an der Schnittfläche zweier regulatorischer Anforderungsrahmen: den NIS2-Vorgaben und den BSI-Leitlinien für den sicheren LLM-Einsatz.

Praktische Implikationen für Unternehmen in Energie und Wasserwirtschaft

1. Risikoklassifizierung als Pflichtschritt vor der LLM-Integration

Das BSI-Dokument zu Chancen und Risiken großer KI-Sprachmodelle unterscheidet in seiner aktualisierten Fassung drei Risikokategorien: Risiken durch ordnungsgemäße Nutzung, Risiken durch missbräuchliche Nutzung und Risiken aus Angriffen auf das LLM selbst. Für Energieversorger und Wasserversorgungsunternehmen bedeutet das: Vor der Einführung eines LLM ist eine strukturierte Risikoanalyse auf Basis dieser Dreiteilung erforderlich. Das BSI-Dokument liefert dafür tabellarische Verknüpfungen von Risiken und Gegenmaßnahmen, die direkt als Ausgangspunkt einer internen Bewertung genutzt werden können.

Weiterführende Informationen zu BSI-Sicherheitsanforderungen für KI-Systeme in der kritischen Infrastruktur finden Sie in unserem Beitrag zu den BSI IT-Grundschutz-Anforderungen für LLMs in kritischen Infrastrukturen.

2. NIS2 und KRITIS-Dachgesetz: Doppelter Compliance-Rahmen für kommunale Betreiber

Auf dem 1. IT-Grundschutz-Tag 2025 (4. Februar 2025) legte das BSI in einem eigenen Vortrag dar, welche Anforderungen aus NIS2 und dem KRITIS-Dachgesetz für Bundesländer und Kommunen gelten. Stadtwerke und kommunale Wasserversorger sind damit explizit adressiert. Der Einsatz von LLMs in Steuerungs- und Betriebsprozessen ist unter diesen Rahmenwerken meldepflichtig relevant, sofern KI-gestützte Systeme in Prozesse mit Auswirkungen auf die Versorgungssicherheit eingebunden werden.

Einen übergreifenden Überblick zu BSI-NIS2-Anforderungen im LLM-Kontext liefert unser Artikel BSI NIS2 2025: LLM-Anforderungen für kritische Infrastrukturen.

3. Angriffsvektoren auf LLMs gezielt im Blick behalten

Das aktualisierte BSI-Dokument widmet Angriffen auf das LLM selbst eine eigene Risikokategorie. Dazu zählen etwa Prompt-Injection-Angriffe, das Ausnutzen von Modellschwächen oder die gezielte Manipulation von Ausgaben. Für den Energiesektor, in dem LLM-gestützte Systeme potenziell in Leitstellen, bei der Netzüberwachung oder im Kundenkontakt eingesetzt werden, ist dies ein direktes operatives Risiko. Das BSI empfiehlt konkrete Gegenmaßnahmen, die tabellarisch im 36-seitigen Dokument hinterlegt sind.

Ergänzende Einordnung zu LLM-Sicherheitsbenchmarks bietet unser Beitrag zum HELM-Benchmark: Sicherheit, Robustheit und Fairness bei Sprachmodellen.

4. Erweiterung auf multimodale KI-Systeme absehbar

Das BSI hat das Dokument zu LLM-Chancen und -Risiken bewusst so umstrukturiert, dass zukünftig auch KI-Modelle integriert werden können, die Bilder, Videos oder Audiodaten verarbeiten und ausgeben. Für Energieversorger, die etwa KI-gestützte Bildauswertung für die Inspektion von Anlagen oder die Auswertung von Kameradaten in Umspannwerken erwägen, ist das ein relevanter regulatorischer Vorlauf: Die BSI-Anforderungen werden sich absehbar auch auf diese Systeme erstrecken.

Zu den regulatorischen Grundlagen für KI-Systeme in der Energiewirtschaft lesen Sie auch unseren Artikel über generative KI in der Energiewirtschaft: Netzoptimierung und Predictive Maintenance.

Quellen

• BSI: Aktualisierte Fassung veröffentlicht: Chancen und Risiken großer KI-Sprachmodelle (02.05.2024)
• BSI: BSI fordert robuste Cybersicherheit für die Energieversorgung (21.05.2025)
• BSI: Vortrag KRITIS-Dachgesetz und NIS2 für Bundesländer und Kommunen, 1. IT-Grundschutz-Tag 2025 (04.02.2025)

Häufige Fragen

Welche konkreten Risikokategorien definiert das BSI für den Einsatz von Sprachmodellen in kritischen Infrastrukturen wie der Energieversorgung?

Das BSI unterteilt in seiner aktualisierten Publikation zu großen KI-Sprachmodellen (Stand Mai 2024) die Risiken in drei Kategorien: Risiken durch ordnungsgemäße Nutzung, Risiken durch missbräuchliche Nutzung sowie Risiken, die aus gezielten Angriffen auf das Sprachmodell selbst resultieren. Für Betreiber kritischer Infrastrukturen im Energie- und Wassersektor ist besonders die dritte Kategorie relevant, da das BSI die Bedrohungslage für Kritische Infrastrukturen aus dem Cyberraum generell als hoch einstuft.

Gilt die NIS2-Richtlinie auch für Kommunen und Bundesländer, die Wasser- oder Energieversorgung betreiben?

Ja. Das KRITIS-Dachgesetz und die NIS2-Umsetzung betreffen ausdrücklich auch Bundesländer und Kommunen, sofern sie Einrichtungen der kritischen Infrastruktur betreiben. Das BSI hat dazu am 1. IT-Grundschutz-Tag 2025 im Februar einen eigenen Vortrag mit Folien veröffentlicht, der die spezifischen Anforderungen für diese Ebenen aufzeigt. Kommunale Energie- und Wasserversorger sollten ihre Pflichten daher nicht allein nach dem privatwirtschaftlichen NIS2-Rahmen beurteilen.

Was empfiehlt das BSI Unternehmen, die LLMs in ihre Betriebsabläufe integrieren möchten?

Das BSI empfiehlt, die 36-seitige Publikation zu Chancen und Risiken großer Sprachmodelle als Grundlage für eine strukturierte Risikoanalyse zu verwenden. Das Dokument verknüpft identifizierte Risiken tabellarisch mit konkreten Gegenmaßnahmen und ist sowohl auf Deutsch als auch auf Englisch verfügbar. Es richtet sich ausdrücklich an Unternehmen und Behörden, die LLMs in ihre Arbeitsabläufe integrieren möchten.

Warum stuft das BSI den Energiesektor als besonders gefährdet ein?

Laut BSI-Positionspapier zur Cybersicherheit im Energiesektor (Mai 2025) steht der Energiesektor im besonderen Fokus drei verschiedener Angreifergruppen: staatlich unterstützte Akteure, die auf Destabilisierung und Spionage abzielen, Cyberkriminelle, die Energieunternehmen erpressen, sowie Hacktivisten mit ideologischen Zielen. Als Beleg für die reale Gefährdungslage verweist das BSI unter anderem auf den knapp eintägigen Stromausfall auf der iberischen Halbinsel.

Werden künftig auch multimodale KI-Modelle, etwa für Bild- oder Audioanalyse, in die BSI-Vorgaben einbezogen?

Das BSI hat seine Publikation zu KI-Sprachmodellen strukturell so aufgebaut, dass sie künftig auf multimodale Modelle ausgeweitet werden kann. Explizit genannt werden Modelle, die Videos, Bilder oder Audiodateien verarbeiten und ausgeben. Für Betreiber in der Energie- und Wasserversorgung, die etwa KI-gestützte Anlagenüberwachung per Bild- oder Sensorauswertung einsetzen, ist diese Erweiterung des Anwendungsbereichs daher strategisch relevant.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.