Datenschutz

Viele KI-basierte Systeme sind nicht für die Nutzung mit Schülerinnen und Schülern zugelassen. Das liegt unter anderem daran, dass die erhobenen Daten (möglicherweise) weiterverarbeitet werden - etwa zur Optimierung der zugrunde liegenden Modelle. Werden personenbezogene Informationen verarbeitet, ist das problematisch. Das gilt bereits, wenn die IP-Adresse erhoben wird, weil diese indirekt Rückschlüsse auf die Nutzerin oder den Nutzer liefern kann. Zusätzlich liegen die Server von vielen Anbietern außerhalb der EU, was eine DSGVO-konforme Nutzung erschwert. Ein achtsamer Einsatz dieser digitaler Anwendungen ist deshalb geboten. 

Am sichersten sind Anwendungen, die nur lokal auf dem Gerät läuft und persönliche Daten dieses Gerät nicht verlassen. Das ist jedoch für viele KI-Anwendungen nicht möglich, da die Rechenkapazität der verfügbaren Endgeräte die erwünschte Qualität der KI-Produkte nicht erreichen.

Deshalb hier eine Liste vom ZSL zur Orientierung, ob ein KI-Tool im Unterricht verwendet werden könnte: 

  • Werden von der Anwendung Daten gesammelt? Hinweis: Sobald Sie einen Account anlegen müssen, liegt dies bereits in beträchtlichem Maße vor.
  • Wird die Anwendung ausschließlich von der Schule aus genutzt oder auch von zu Hause? Die Internetprotokoll-Adresse (IP-Adresse) Ihres digitalen Endgerätes ist bereits eine Information, die unter Umständen einer spezifischen Person zugeordnet werden kann.
  • Wird die EU-DSGVO eingehalten?
  • Liegt ein Vertrag zur Verarbeitung von Daten im Auftrag (AVV) zwischen dem Anbieter der Anwendung und der Schule vor? Ist dieser mit dem Datenschutzbeauftragten Ihrer Schule abgestimmt worden?

Für die Bewertung ist jedoch nicht nur das Tool selbst ausschlaggebend, sondern auch die Art und Weise der Nutzung. Einige Nutzeroberflächen und Anwendungen, wie fAIrChat, aber auch Fobizz nutzen eine Schnittstelle zu Open AI's ChatGPT. Somit können Anfragen nicht direkt einer Schule oder sogar einer Person zugeordnet werden. Teilen Schülerinnen und Schüler oder Lehrkräfte jedoch persönliche Daten über diese Anwendungen, dann landen die Informationen auch auf amerikanischen Servern. Deshalb ist es wichtig, alle Nutzenden darauf hinzuweisen, dass keine persönlichen Daten preisgegeben werden dürfen.

Eine Anfrage für eine datenschutzrechtliche Prüfung einer Anwendung oder App kann über den Ansprechpartner oder die Ansprechpartnerin am ZSL erfolgen. Erfüllt die Anwendung alle Kriterien, schließt das ZSL einen AVV mit dem entsprechenden Anbieter ab und die Anwendung kann offiziell eingesetzt werden. Außerdem kann die Schulaufsicht (SSA, RP, KM) den Einsatz von Tools regeln. Empfehlungen werden von der Landesbeauftragten oder dem Landesbeauftragten für Datenschutz (LfDI) ausgesprochen.

Zuletzt geändert: Sonntag, 16. November 2025, 23:31