Vortragende, Podiumsteilnehmer*innen und Zuhörer*innen waren am Dienstag intensiv in die Thematik eingestiegen. In dem Grußwort des Düsseldorfer Regierungspräsidenten Thomas Schürmann wurde bereits deutlich, dass der Gesellschaft und damit auch der öffentlichen Verwaltung Umwälzungen bevorstehen. KI sei schon lange kein Hype mehr, so Schürmann. „Mittlerweile nutzen wir an vielen Stellen KI, sie wird die Art, wie wir arbeiten, radikal verändern - und zwar radikal schnell.“ Dieser Umbruch biete für die Verwaltung enormes Potenzial. „Wir können an vielen Stellen agiler werden.“ Gleichzeitig betonte Schürmann aber auch, dass der Schutz der dabei verarbeiteten Daten nicht zu kurz kommen dürfe. „Wir dürfen nicht zulassen, dass die Menschen nur noch mit einer Blackbox konfrontiert sind. Sonst verlieren sie das Vertrauen in den Staat. Ob KI Hype, Horror oder Hoffnung ist, das haben wir selbst in der Hand.“ 

Landesbeauftragte Bettina Gayk stützte diese These. Es sei wichtig, einen Weg zu finden, KI in unserem demokratischen System rechtskonform anzuwenden. „Ich habe auch noch nicht für alles Lösungen“, gab Gayk zu. „Deshalb müssen wir in den Dialog eintreten. Wir, die Datenschutzbehörden, wollen nichts verhindern, sondern dazu beitragen, KI verantwortungsvoll zu entwickeln.“ 

Welches Potenzial KI besitzt, veranschaulichte anschließend Martin Krisch von der Firma adesso SE. „Wir brauchen bei uns ganze Teams, um noch hinterher zu kommen“, betonte Krisch. Anhand von Sprachmodellen erläuterte er die rasante Entwicklung auf dem Gebiet der KI. Startete der Prozess einst mit Systemen, die praktisch nur die nächste Wortfolge errieten, gibt es mittlerweile Modelle, die sich selbst hinterfragen können. Das erhöhe die wahrgenommene Intelligenz und das Vertrauen noch einmal deutlich. Die Entwicklung sei unglaublich dynamisch. Der Trend gehe dahin, dass KI die Arbeit von ganzen Gruppen übernehme. Trotzdem ist er optimistisch. „82 Prozent der Arbeitsplätze werden von KI profitieren“, zitierte Krisch eine Untersuchung. „KI kann unser aller Leben zum Guten verändern.“ 

So würden die Sprachmodelle nicht nur effizienter, sondern auch leistungsfähiger und kleiner. Mit ihnen werde sich das Zusammenleben verbessern. Anhand eines Beispiels zeigte Krisch, dass sie längst nicht mehr nur Texte schreiben, sondern auch überzeugend echte Avatare kreieren können, die sogar in nahezu allen Sprachen sprechen. Etwas, was durchaus auch für die Verwaltung interessant sei, etwa wo bisher Dolmetscher notwendig waren. KI könne außerdem bei der Verarbeitung von Dokumenten helfen. Prüfschritte ließen sich automatisieren, zum Beispiel die Kontrolle, ob Anträge auch von den Antragsteller*innen unterschrieben wurden. Fehle die Unterschrift, könne dies direkt an die Antragteller*innen zurückspielt werden. „Die Bürger*innen“, so Krisch, „wünschen komfortable Dienstleistungen, Transparenz und aktive Kommunikation“. KI könne das liefern. 

Doch lässt sich das ohne Datenschutz denken? Sicher nicht, wie Dr. Frederik Möllers vom Saarbrücker Zentrum für Recht und Digitalisierung deutlich machte. Allerdings bewege sich der Datenschutz in punkto KI selbst noch auf unsicheren Beinen. Sicher sei nur, dass beim Training der KI personenbezogenen Daten verarbeitet würden. Also müssten die betroffenen Personen informiert werden. Allerdings sei eine KI umso besser, je mehr Daten sie verwende. „Da erscheint eine umfassende Information der betroffenen Personen kaum möglich.“ 

Würden öffentlich zugängliche Daten verwendet, müssten die betroffenen Personen dahinter zunächst identifiziert und dann kontaktiert werden. Und selbst wenn man Einwilligungen zur Datenverarbeitung erhalte: „Bei einem Widerruf der Einwilligung kriege ich die Daten ja nicht mehr aus dem KI-Modell heraus.“ Viele dieser Probleme würden sich nicht so einfach lösen lassen, glaubt Möllers. „Da wird man wohl auf die Rechtsprechung zu diesen Fragen warten müssen“. 

Bis dahin dürften allerdings in der Verwaltung schon diverse KI-Modelle existieren. So wie etwa NRW.Genius. Anhand dieses KI-Modells stellten Dr. Michael Huter vom Ministerium für Heimat, Kommunales, Bau und Digitalisierung und Arne Schömann von IT.NRW die aktuelle Entwicklung in NRW vor. Hinter NRW.Genius verbirgt sich eine auf KI basierende Verwaltungsassistenz, die seit Oktober 2024 in der Landesverwaltung Nordrhein-Westfalen zum Einsatz kommt. Entwickelt wurde sie von IT.NRW in Zusammenarbeit mit dem IT-Dienstleistungsunternehmen Capgemini. Die Testphase mit rund 100 Beschäftigten läuft. 

NRW.Genius enthält derzeit fünf Kernfunktionalitäten. Die Beschäftigten können die KI zum Chatten nutzen, können Fragen an PDFs stellen, Textgenerierung betreiben, sie als Rechercheassistenz einsetzen oder für Zusammenfassungen nutzen. KI habe eine nicht mehr wegzudenkende Relevanz, begründete Schömann die Einführung von NRW.Genius. „Im Grunde genommen wollen wir ja alle KI haben.“ Allerdings, so Huter, verlange KI auch eine große Veränderungsbereitschaft. „Alle Beteiligten müssen deshalb eingebunden werden.“ Das Thema Datenschutz, die Notwendigkeit, den Menschen in den Mittelpunkt zu stellen, gelte deshalb auch hier. Um Vertrauen bei den Beschäftigten herzustellen, erfolge deshalb keine Speicherung darüber, wer NRW.Genius nutze. Das sei sicher einer der Gründe, warum die KI derzeit bei den Beschäftigten so intensiv zum Einsatz komme. 

Nach der Mittagspause dann folgte der kritische Blick auf die schöne neue Digital-Welt: Prof. Dr. Hannes Rothe von der Universität Duisburg-Essen sieht den Menschen bei der generativen KI durchaus als Gefangenen zwischen emotionalen Geschichten und kalten Fakten. Laut Rothe ist die Geschichte von helfenden Maschinen, die denken können und manchmal in unserem Sinne handeln und manchmal nicht, bereits ein paar Jahrtausende alt. „Und mit solchen Geschichten sind wir alle auch aufgewachsen“. Das neue Zeitalter von KI betreibe dieses Framing nun weiter. Auch ChatGPT als generative KI werde als solch eine Maschine dargestellt, eine, die etwas selbstständig tun könne. Aber das stimme nur eingeschränkt. „Generative KI hat ihre Grenzen“, so Rothe. „Interessanterweise gehen die meisten Investments auch nicht in die Entwicklung generativer KI-Modelle, sondern in industriespezifische KI-Anwendungen.“ 

Warum? Rothe wählt das Beispiel des selbstfahrenden Autos:  Ein KI-System, das jahrelang in den USA trainiert wurde, bekomme sofort ein Problem, wenn es auf einmal in Indien fahren müsse und auf einen Elefanten auf der Straße treffe. „Das Auto wird den Elefanten wahrscheinlich als Auto wahrnehmen – und das kann zu fatal falschen Entscheidungen führen.“ 

Sprachmodelle seien vor allem deshalb so gut, weil sie schon so viele Daten gesehen hätten. Anderen Modellen fehle dagegen noch umfassendes Wissen. Über die technischen Grenzen von KI wisse man noch viel zu wenig. Sollte die Verwaltung also KI anwenden? Laut Rothe sollte man im Umgang mit KI generell nicht übermäßig ängstlich sein, aber auch nicht zu risikobereit. Projekte wie NRW.Genius seien deshalb positiv zu bewerten, da sie den Anwender*innen einen rechtlichen Rahmen gäben, KI rechtssicher auszuprobieren. „Wir müssen wissen, wie etwas funktioniert und wie wir es einsetzen. Und wir müssen ein gemeinsames Verständnis dafür entwickeln, wofür wir es hierzulande nutzen wollen“, riet Rothe. 

Ein Punkt der in der abschließenden Podiumsdiskussion auch Erwähnung fand. Zur Landesdatenschutzbeauftragten Bettina Gayk hatten sich weitere hochrangige Expert*innen gesellt: Daniel Sieveke, Beauftragter der Landesregierung für Informationstechnik (CIO) und Staatssekretär im Ministerium für Heimat, Kommunales, Bau und Digitalisierung, Jörg Bienert, Vorstandsvorsitzender des KI-Bundesverbands, Frank Fricke, Datenschutzbeauftragter der Stadt Köln sowie die grüne Landtagsabgeordnete Julia Eisentraut, innerhalb ihrer Fraktion zuständig unter anderem für das Thema Digitalisierung.

Die schwierigste Frage sei mit Blick auf die Bürger*innen, Vertrauen in verlässliche Entscheidungen herzustellen, betonte die Landesbeauftragte. Deshalb müsse KI in der Verwaltung datenschutzrechtlich abgesichert sein. Julia Eisentraut forderte, auf KI bei Einzelfallentscheidungen noch zu verzichten und parallel zu überlegen, wo eher eine bessere Digitalisierung der Verwaltung helfe. „Die Daten im Gesundheitssystem sind fundamental etwas anderes als in einem Computerspiel.“ Für Frank Fricke von der Stadt Köln ist deshalb zunächst einmal wichtig abzugrenzen, wo eine automatisierte Digitalisierung aufhöre und wo KI, die andere rechtliche Rahmenbedingungen habe, anfange. „Datenschutz wird aber nicht der Showstopper sein“, glaubt er. Staatsekretär Sieveke forderte, mutig voranzuschreiten. Manche seien noch zu sehr in der analogen Welt verhaftet. Gesetze müssten gegebenenfalls angepasst werden, um die Basis für KI-Anwendungen zu schaffen. „Am Ende muss Europa in der Lage sein, Spielregeln nicht nur einzuhalten, sondern auch vorzugeben“. KI-Verbandschef Bienert ergänzte, dass Spielregeln gut seien, um Vertrauen zu schaffen. Auf lange Sicht seien sie aber nicht das Hauptproblem. „Wenn wir erst einmal Unbedenklichkeitsiegel für KI haben, ergeben sich manche Fragen gar nicht mehr“, so Bienert. „Wir brauchen sehr viel mehr Speed.“ 

Bettina Gayk zieht am Tag nach der Veranstaltung ein positives Fazit. „Das Interesse an dem Thema KI in der Verwaltung ist groß. Wir betreten damit in NRW kein Neuland mehr, aber die Fragen dazu sind komplex und nahezu täglich kommen weitere hinzu. Mir ist es deshalb wichtig, dass wir im ständigen Austausch bleiben mit allen Beteiligten, damit wir einen für alle Bürger*innen hilfreichen und zugleich datenschutzrechtlich ausgewogenen Umgang mit KI etablieren.“   

Wer die Veranstaltung verpasst hat, findet hier in Kürze eine Videoaufnahme von ihr. 

Thomas Schürmann  / ©LDI NRW

Bettina Gayk  / ©LDI NRW

Martin Krisch  / ©LDI NRW

Frederik Möllers   / ©LDI NRW

Michael Huter und Arne Schömann  / ©LDI NRW

Hannes Rothe  / ©LDI NRW

Bettina Gayk, Daniel Sieveke, Frank Fricke, Chantal Beil (Moderation), Jörg Bienert, Julia Eisentraut (v.l.)  / ©LDI NRW