Um den genannten Herausforderungen zu begegnen, sind sowohl technische als auch rechtliche Maßnahmen erforderlich. Mithilfe von gesetzlichen Regelungen sollte sichergestellt werden, dass KI-Modelle transparent und erklärbar sind und der Missbrauch dieser Tools eingeschränkt wird. Gleichzeitig ist eine kritische Medienkompetenz in der Gesellschaft unerlässlich, um KI-generierte Inhalte richtig einordnen zu können.

Zahlen in der Waagschale von Justitia

Justitia hält Waagschale mit Zahlen.
CC BY SA 4.0 Luise Wüstling und KI Makerspace Tübingen

Letztlich liegt es in unserer Verantwortung, die Chancen und Risiken der KI-Technologie abzuwägen und sie so zu einzusetzen, dass sie der Gesellschaft zugutekommt, anstatt Schaden anzurichten. Dafür bedarf es Regulierungen wie den AI Act, auf den sich die EU am 13.3.2024 verständigt hat (Quelle). Es wird gefordert, dass KI-gestützte Anwendungen transparent, nichtdiskriminierend und umweltfreundlich sind. Der AI Act stuft KI-Systeme in unterschiedliche Risikostufen ein, um verschiedene Anforderungen an solche KI-Systeme zu definieren. 

  • In die kritischste Stufe sind solche Systeme einsortiert, die ein unannehmbares Risiko darstellen. Das sind zum Beispiel Technologien, die (insbesondere Kinder) manipulieren können oder Menschen klassifizieren wie beim Social Scoring, Überwachung in Schule oder am Arbeitsplatz oder wahlloses Erfassen von Gesichtsbildern. Für polizeiliche Ermittlungen gibt es hier allerdings Ausnahmen.
  • Die nächste Kategorie sind KI-Systeme, die als Hochrisiko-Systeme eingestuft werden. Anwendungen, die in der kritischen Infrastruktur eingesetzt werden als auch solche für Dienstleistungen, sei es privat oder öffentlich, Strafverfolgung oder demokratische Prozesse müssen transparent und genau sein. Außerdem ist es wichtig, dass diese Systeme von Menschen überwacht sind. Anwenderinnen und Anwender haben das Recht, Beschwerden über KI-System einzureichen und die Anwendung erklärt zu bekommen.  
  • Begrenztes Risiko wird in Systemen gesehen, die beispielsweise Text, Audio oder Bild generieren und für den allgemeinen Einsatz gedacht sind. Hier gilt nur, dass die Funktionsweisen transparent sein müssen. Um die Anforderungen nach Transparenz zu erfüllen, müssen mit KI erstellte oder bearbeitete Materialien als solche gekennzeichnet werden. Außerdem müssen Urheberrechte und die Inhalte veröffentlicht werden, die für das Training genutzt wurden.
  • Für KI-Systeme, die nicht in die drei anderen Kategorien fallen, wie Algorithmen für Filmvorschläge, Spam-Filter etc., gelten keine besonderen Pflichten.



Eine Visualisierung der Gefährdungsstufen ist hier zu finden und ein Interview dazu mit einer Expertin kann hier nachgelesen werden.

Weitere Infos:

  • Europa bekommt ein KI-Gesetz – Aber wie gut ist es? Auf BR 24
  • UNESCO Empfehlungen zu KI (hier und hier zu KI in der Bildung) 

Zuletzt geändert: Dienstag, 16. September 2025, 16:16