Ein Gedicht interpretieren, eine Präsentation erstellen, Rat bei persönlichen Problemen einholen – immer mehr Schüler*innen nutzen KI-Chatbots wie etwa ChatGPT. Aber auch bei Lehrkräften ist der Einsatz von KI-Chatbots, die auf sogenannten Large Language Modells (LLM) basieren, mittlerweile beliebt. Allerdings bringt die Nutzung frei zugänglicher KI-Hilfen wie ChatGPT oder Gemini zugleich datenschutzrechtliche Probleme mit sich.
Zum Schulstart rät die Landesdatenschutzbeauftragte Bettina Gayk deshalb allen Schulverantwortlichen, entsprechende Vorsichtsmaßnahmen zu ergreifen. „Um es auf eine kurze Formel zu bringen: Sensibilisieren, schulen und Risiken durch Technik und Organisation minimieren.“
Der Grund für diesen Rat: Werden Fragen an KI-Chatbots gestellt, sogenannte Prompts, werden nicht nur technische Daten über das verwendete Gerät den Anbieter*innen zugänglich gemacht sowie IP-Adresse oder Logdateien. Auch die Prompts selbst werden übertragen. Diese lassen – unabhängig von der Eingabe des Namens – Rückschlüsse auf die eingebende Person zu. Ihre individuelle Sprache, typische Fehler bis hin zu sensiblen Daten wie persönlichen oder familiären Problemen oder Gesundheitsdaten können anhand der Prompts ablesbar sein. Je nach KI-Chatbot besteht deshalb das Risiko, dass die Daten von den Anbieter*innen ausgewertet und etwa zu Werbezwecken oder dem Training der Modelle verwendet werden. Bei der Verwendung von personenbezogenen Daten zum Training besteht insbesondere das Risiko, dass sich LLMs die Daten „merken“ und später bei Antworten an andere Nutzende ausgeben. Zudem könnten die Daten in Länder übermittelt werden, die nicht den europäischen Datenschutzstandard garantieren.
Landesbeauftragte Gayk: „Schulen sollten die Schüler*innen für die spezifischen Probleme im Umgang mit KI sensibilisieren. Zu diesen Problemen gehören auch überzeugend formulierte, aber falsche KI-Resultate, mit KI-Techniken verfälschte Medieninhalte oder diskriminierende Ergebnisse. Es ist wichtig, den Umgang mit KI im Schulunterricht zu thematisieren und zu üben.“
Bei der Nutzung von KI-Chatbots sollten die Schulen darüber hinaus die Risiken für die Schüler*innen und Lehrkräfte durch geeignete technische und organisatorische Maßnahmen größtmöglich reduzieren. Hierzu zählt insbesondere, zuverlässige Anbieter auszuwählen, so wenig personenbezogene Daten wie möglich einzugeben und die Verarbeitung personenbezogener Daten zu eigenen Zwecken der Anbieter*innen auszuschließen.
Die Landesbeauftragte begrüßt in diesem Zusammenhang ausdrücklich das länderübergreifende Projekt „AIS-chat“. Diese KI-Chatbot-Anbindung ermöglicht die Nutzung verschiedener LLMs über pseudonymisierte Accounts. „Meine Behörde ist hier beratend eingebunden. Der Vorteil des Projekts besteht vor allem darin, dass die Datenverarbeitung über das Medieninstitut der Länder der Bundesrepublik Deutschland erfolgt – und klare Standards gesetzt werden. Es sollen etwa nur bereits vortrainierte KI-Modelle verwendet und nicht weitere Daten für deren Training genutzt werden. Außerdem sollen Datenverarbeitungen ausschließlich innerhalb der EU stattfinden und Chatverläufe regelmäßig gelöscht werden.“