Die Modelle für ML-Algorithmen sind vielfältig. Je nachdem, welche Probleme betrachtet werden, können unterschiedliche Modelle zum Einsatz kommen. Dazu zählen: Lineare Regression, Gradientenverfahren, Logistische Regression, Support Vector Machines, Entscheidungsbäume, Random Forest, Nächste-Nachbarn-Klassifikation, k-Means-Algorithmen, Hauptkomponentenanalyse, Convolutional Neural Networks, Recurrent Neural Networks, Transformers, etc.

Neuronale Netze

Neuronale Netze sind eine bekannte Methode im Maschinellen Lernen. Alle wesentlichen Entwicklungen in den letzten Jahren im Bereich der Künstlichen Intelligenz gehen auf Algorithmen zurück, die neuronale Netze nutzen. Diese sind von der Funktionsweise des menschlichen Gehirns inspiriert. Neuronale Netze bestehen aus vielen miteinander verbundenen Neuronen (Knoten) und können je nach Aufbau einfache, aber auch sehr komplexe Aufgaben lösen.  

Das Perzeptron ist das einfachste neuronale Netz, im Grund einfach ein Neuron. Es kann nur lineare Probleme lösen. Jeder Eingabeknoten (links) nimmt einen Wert entgegen, multipliziert ihn mit einem spezifischen Gewicht und zum Schluss wird die Summe berechnet und ausgegeben.

Perzeptron mit 3 Eingängen

Symbolbild eines Perzeptron mit drei Eingängen und einem Ausgang. 
CC BY SA 4.0 Luise Wüstling und KI Makerspace

Dies kann man beliebig erweitern, mehr und mehr Knoten einfügen.

Neuronales Netz mit einer versteckten Schicht

Symbolbild eines Neuronalen Netzes mit drei Eingängen, einer versteckten Schicht mit 4 Knoten und zwei Ausgängen. 
CC BY SA 4.0 Luise Wüstling und KI Makerspace

Kriterium 

Ohne neuronale Netze 

Mit neuronalen Netzen 

Komplexität der Daten 

Funktioniert gut mit strukturierten Daten (z. B. Tabellen). 

Geeignet für unstrukturierte Daten (z. B. Bilder, Texte). 

Interpretierbarkeit 

Modelle sind oft leichter verständlich. 

Modelle sind meist schwer zu interpretieren („Black Box“). 

Rechenaufwand 

Gering, da keine tiefen Schichten trainiert werden. 

Hoch, erfordert oft GPUs. 

Leistungsfähigkeit 

Begrenzter bei sehr komplexen Problemen. 

Exzellent für komplexe, nicht-lineare Muster. 

Klassische neuronale Netze sind geeignet für Daten mit komplexen Mustern. Hier gibt es unterschiedliche Neuronale Netze, die insbesondere für die Bildverarbeitung geeignet sind (Convolutional Neural Networks) oder um Texte zu verarbeiten (Recurrent Neural Networks) oder Transformers, die für die Sprachverarbeitung genutzt werden, wie es zum Beispiel bei ChatGPT verwendet wird.

In folgendem Video von KI macht Schule, das für diese Fortbildung erstellt wurde, wird erklärt, wie Neuronale Netze aufgebaut sind und was unter Deep Learning zu verstehen ist. 

  

Aufgabe

Praktische Übung für Fortgeschrittene (keine Programmierkenntnisse erforderlich): Um die Funktionsweise von neuronalen Netzen mit einem Klassifizierungs- und Regressionsproblem besser zu verstehen, eignet sich folgendes interaktives Programm: Tensorflow Playground 

Dieses Tool visualisiert spielerisch das Training von neuronalen Netzen. Dazu hier eine Anleitung: Rechts oben wählt man die Art des Problems: Regression oder Klassifikation. Im Folgenden soll die Klassifikation genutzt werden. Auf der linken Seite kann man zwischen verschiedenartig verteilten Datenpunkten auswählen. Man kann Klassifikationsprobleme auswählen, in denen je zwei Klassen klassifiziert werden sollen, die orange und blau dargestellt sind. Hier steht ein Kreis, ein Mini-Schachbrett, eine Spirale und zwei Cluster mit unterschiedlichen Zentren zur Verfügung. Je nachdem, welchen Datensatz man nimmt, muss das Modell unterschiedlich komplex sein, um zu einem zufriedenstellenden Ergebnis zu kommen. Zum Datensatz können unter Noise Ausreißer dazu gewählt werden, was an der Verteilung der Punkte im rechten Bild ersichtlich wird. In den Features wählt man die Eingabefunktion, diese können linear, quadratisch oder eine Sinus-Funktion sein. Hier können durch Klicken eine beliebige Anzahl an Eingabefunktionen gewählt werden. In der Mitte können die Anzahl der versteckten Schichten (Hidden Layers) und der darin jeweils enthaltenen Knoten (Neurons) ausgesucht werden. Um das Training zu beginnen, drückt man oben links auf den Start-Knopf. Die Ausgabe zeigt dann die Veränderung durchzunehmendes Training an und es wird schnell ersichtlich, ob die gewählten Eingabefunktionen und Konfiguration der versteckten Schichten für das Klassifikationsproblem geeignet ist. Gewichte können am Ausgang der einzelnen Knoten auch selbst angepasst werden. 

Hier ein angepasste Version des Links oben: Verkürzter, angepasster Link zu Tensorflow Playground

Aufgabe 1: Perzeptron 

  • Wähle die Verteilung mit den zwei Clustern.
  • Nutze keine versteckte Schicht.
  • Nenne die minimale Anzahl und Art der Eingabefunktionen (Features), damit das Training erfolgreich ist und begründe die Wahl.
  • Wähle mehr Rauschen (Noise) und vergleiche mit anderen Eingabefunktionen und versteckten Schichten das Ergebnis.  

Aufgabe 2: Kreis 

  • Wähle nun die kreisförmig angeordneten Klassen, nutze die Eingabe-Features x1 und x2.  
  • Wähle eine Schicht mit zwei Neuronen und lasse das Training für ca. 100 Iterationen (Epoch) laufen.  
  • Vergleiche das Resultat mit einem Netz, das 8 Neuronen enthält also breiter ist.  
  • Vergleiche den Test- und Trainings-Loss mit einem Netz, das 2 Schichten mit je 4 Neuronen enthält (tieferes Netz).  
  • Wähle andere Eingangsfunktionen (Features) und vergleiche es.
  • Verändere die Anzahl der Ausreißer (Noise) und vergleiche das Ergebnis des Trainings.  

Aufgabe 3: Komplexe Muster

  • Wähle das Schachbrettmuster
  • Wähle nur ein Neuron in einer Schicht. Starte das Training (für ca. 100 Iterationen) und beobachte die Entwicklung.
  • Vergleiche das Training mit einem Netz bestehend aus zwei Schichten mit zwei Neuronen in der ersten Schicht und einem Neuron in der zweiten Schicht.  
  • Wiederhole die Schritte mit mehr Rauschen (Noise). 

Dazu gibt es im Artikel Unterstanding neural networks with TensorFlow Playground auf Englisch (Link zu Google Cloud) und weitere Informationen im Artikel Neuronale Netze verstehen- Wie? Einfach ausprobieren! (Website Boosting Magazin) zu finden. 

 

Zuletzt geändert: Montag, 13. Oktober 2025, 21:43