Grundprinzipien Maschinellen Lernens

Im Folgenden sollen die Grundprinzipien des Maschinellen Lernens erklärt werden. Diese werden mit dem Beispiel illustriert, wie ein Programm die Kreditwürdigkeit einer Person herausfinden kann (inspiriert von einem Vortrag von Prof. Ulrike von Luxburg). 

Beispiel: KI entscheidet über die Kreditwürdigkeit

Fassen wir zusammen: In folgende Bausteine kann man den Ablauf des Maschinellen Lernens aufteilen: Aufgabe definieren, Trainingsdaten auswählen, Suchraum, und Bewertungsfunktion definieren, Lernverfahren anwenden, Modell Testen und Ergebnis evaluieren. In den folgenden Abschnitten gehen wir genauer auf die möglichen Datentypen, Modelle und Arten des Lernens ein. 

Black Box

Maschine Learning Modelle haben jedoch ein gravierendes Problem: Die Entscheidung, warum ein Kredit vergeben wurde, ist nicht nachvollziehbar. Das Modell erkennt Muster, die vielleicht keine reale Bedeutung haben. Vielleicht würde die Schuhgröße (falls das abgefragt werden sollte) sich als Bewertungskriterium für den Algorithmus entpuppen, was aber für die Kreditwürdigkeit keine sinnvolle Entscheidungsgrundlage wäre. Hier spricht man auch von Machine Learning als Black Box: die Entscheidung ist also nicht erklärbar. Es stellt sich also die Frage, ob und welche Entscheidungen wir einem System übergeben wollen, dessen Entscheidung wir nicht nachvollziehen können. Eine Erklärbarkeit der KI zu finden, ist ein eigenes Forschungsfeld für sich.