❓ Drucksache 18/21329

Die Anfrage behandelt die Sicherheitsrisiken chinesischer KI-Modelle (wie DeepSeek, Qwen, Kimi K3 und GLM), die möglicherweise lokal auf Infrastruktur nordrhein-westfälischer Behörden betrieben werden. Obwohl der lokale Betrieb datenschutzrechtlich vorteilhaft wirkt, da keine Daten zu chinesischen Servern übertragen werden, entstehen neue Sicherheitsrisiken: versteckte Backdoors, manipulierte Trainingsdaten und eingebetteter Schadcode in den Modellgewichten können ohne spezialisierte forensische Prüfung nicht erkannt werden. Zusätzlich unterliegen chinesische Unternehmen durch nationale Gesetze der Zusammenarbeit mit Sicherheitsbehörden und können ihre KI-Modelle politisch ausrichten.

Landesbehörden Nordrhein-Westfalens, IT.NRW (Landeseinrichtung für IT-Infrastruktur), kommunale Verwaltungen in NRW, Landesbetriebe, Beschäftigte der Landesverwaltung auf Dienstgeräten und indirekt die Bevölkerung durch die Sicherheit von Verwaltungssystemen.

Der Fragesteller stellt fünf Fragen an die Landesregierung: (1) Welche Erkenntnisse liegen vor, ob Behörden chinesische KI-Modelle lokal betrieben oder erprobt haben? (2) Welche technischen Integritätsprüfungen werden durchgeführt, um versteckte Backdoors und Schadcode zu erkennen? (3) Welche Vorgaben bestehen für Herkunftsprüfung und Freigabe lokal betriebener Modellgewichte? (4) Welche Maßnahmen wurden getroffen, um die Nutzung lokal betriebener KI-Modelle zu protokollieren und kontrollieren? (5) Plant die Landesregierung ein verbindliches Register aller lokal betriebenen KI-Modelle mit Angaben zu Anbieter, Herkunftsland und durchgeführten Sicherheitsprüfungen?

Das Dokument enthält nur die Anfrage; die Antwort der Landesregierung liegt noch nicht vor. Das Dokument dokumentiert folgende Bedenken: Modellgewichte können versteckte Backdoors, manipulierte Trainingsdaten oder Schadcode enthalten. Lieferkettenlücken entstehen durch Beschaffung von Modellgewichten über Drittplattformen wie Hugging Face ohne Integritätsprüfung gegen Originalgewichte. Chinesische KI-Modelle zeigen bei sensiblen Themen (Taiwan, Tibet, Uiguren, Tiananmen-Platz) politisch gefärbte Antworten. NRW treibt KI-Einsatz aktiv voran (Verwaltungsassistent NRW.Genius, KI-gestützte Vergabesoftware GovRadar seit April 2025 in Kommunen, seit Juli 2025 in Landesbehörden), aber es existieren keine öffentliche Dokumentation, kein verbindliches Modellregister oder Zulassungspflicht für lokal betriebene KI-Gewichte.