⚖️ E-Government-Gesetz - Drittes Gesetz zur Änderung des Brandenburgischen E-Government-Gesetzes

Der Gesetzentwurf von SPD- und CDU-Fraktion ändert das Brandenburgische E-Government-Gesetz, um erstmals landesrechtliche Regeln für den Einsatz von KI-Systemen in der öffentlichen Verwaltung zu schaffen. Hintergrund ist, dass die EU-KI-Verordnung und die Datenschutz-Grundverordnung aus Sicht der Fraktionen keine ausreichenden spezifischen Vorgaben für hoheitliches Verwaltungshandeln und die Verarbeitung personenbezogener Daten in KI-Systemen enthalten. Die Fraktionen verweisen zur Begründung auf die Wesentlichkeitstheorie des Bundesverfassungsgerichts, wonach wesentliche Grundlagen grundrechtsrelevanter Sachverhalte vom Gesetzgeber selbst geregelt werden müssen.

Betroffen sind die Behörden des Landes und der Kommunen in Brandenburg, deren Mitarbeiterinnen und Mitarbeiter sowie Bürgerinnen, Bürger und Unternehmen, deren personenbezogene Daten im Rahmen von Verwaltungsverfahren durch KI-Systeme verarbeitet werden könnten. Zuständig für die Umsetzung ist laut Entwurf das Ministerium der Justiz und für Digitalisierung.

Der Entwurf führt einen neuen Abschnitt 5 (§§ 17 und 18) im E-Government-Gesetz ein: Behörden sollen KI-Systeme zur Unterstützung ihrer öffentlichen und fiskalischen Aufgaben einsetzen dürfen, jedoch unter verpflichtender menschlicher Kontrolle und mit transparenten, nachvollziehbaren und überprüfbaren Ergebnissen. Ein von einem KI-System generierter Verwaltungsakt soll nur zulässig sein, wenn eine Rechtsvorschrift dies ausdrücklich erlaubt und kein Ermessen oder Beurteilungsspielraum besteht; andernfalls soll der Verwaltungsakt nichtig sein, sofern er nicht rein begünstigend wirkt. Vor dem Einsatz sollen Mitarbeiterinnen und Mitarbeiter über Zweck, Funktionsweise und Datenverarbeitung aufgeklärt und darin geschult werden, Ausgaben auf Plausibilität und Fehler zu prüfen. Für die Verarbeitung personenbezogener Daten in KI-Systemen wird eine Rechtsgrundlage geschaffen, die an die bestehende Verarbeitungsbefugnis der Behörde anknüpft; vor der Verarbeitung soll insbesondere bei Zweckänderung oder bei besonderen Datenkategorien nach Artikel 9 DS-GVO eine Datenschutz-Folgenabschätzung erfolgen.

Der Entwurf definiert in § 2 Nr. 16 erstmals den Begriff „KI-System“ in Anlehnung an eine maschinengestützte, anpassungsfähige Systemdefinition. § 17 regelt Grundsätze des Einsatzes (Erlaubnistatbestand, menschliche Kontrolle, Voraussetzungen für KI-generierte Verwaltungsakte, Schulungspflicht). § 18 regelt die Verarbeitung personenbezogener Daten in KI-Systemen, unterscheidet zwischen laufender Verarbeitung und Nutzung von Daten zum Training der Systeme und verlangt gesonderte Dokumentation sowie ggf. eine Datenschutz-Folgenabschätzung nach Artikel 35 DS-GVO. Folgeänderungen betreffen Verweise in § 7 Absatz 5 und § 13 Absatz 2 Nummer 4 sowie die Umnummerierung bisheriger §§ 17 bis 20 zu §§ 19 bis 22.

Eingereicht wurde der Gesetzentwurf gemeinsam von der SPD-Fraktion und der CDU-Fraktion. Laut Entwurf ist das Ministerium der Justiz und für Digitalisierung zuständig. Die Fraktionen verweisen zur Begründung auf die EU-Verordnung (EU) 2024/1689 (KI-Verordnung), die Datenschutz-Grundverordnung, Artikel 11 Absatz 1 der Verfassung des Landes Brandenburg sowie Artikel 2 Absatz 1 in Verbindung mit Artikel 1 Absatz 1 des Grundgesetzes. Genannt wird zudem, dass das Brandenburgische E-Government-Gesetz vom 23. November 2018 zuletzt durch Artikel 2 des Gesetzes vom 14. Mai 2024 geändert wurde. Laut Entwurf haben einige andere Bundesländer bereits vergleichbare gesetzliche Regelungen zum Einsatz von KI in der Verwaltung verabschiedet, ohne dass im Dokument einzelne Länder oder Drucksachen benannt werden. Eine Antwort der Landesregierung oder ein Beschluss des Landtags liegt im vorliegenden Dokument nicht vor, da es sich um den Gesetzentwurf selbst handelt.