Machine Learning: 12 Grundlagen erklärt

Stellen Sie sich eine Welt vor, in der Software nicht nur Befehle ausführt, sondern lernt, sich anpasst und sogar vorhersagt. Das ist die faszinierende Domäne des Machine Learnings, einer Technologie, die still und leise unseren Alltag revolutioniert, von personalisierten Empfehlungen auf Streaming-Plattformen bis hin zur Erkennung von Betrug bei Finanztransaktionen. Es ist das schlaue Gehirn hinter vielen der intelligenten Systeme, mit denen wir täglich interagieren, und seine Bedeutung wächst exponentiell. Wer verstehen möchte, wie die digitale Welt von morgen funktioniert, kommt an den grundlegenden Prinzipien des Machine Learnings nicht vorbei. Dieser Artikel wird Ihnen helfen, die Essenz dieser transformativen Technologie zu erfassen, indem wir zwölf Schlüsselkonzepte Schritt für Schritt beleuchten, verständlich aufbereitet und mit praktischen Einblicken versehen, damit Sie die Macht des lernenden Computers wirklich begreifen.

1. Was ist Machine Learning überhaupt? Der Grundgedanke

Im Kern ist Machine Learning ein Teilgebiet der künstlichen Intelligenz, das Computern die Fähigkeit verleiht, aus Daten zu lernen, ohne explizit dafür programmiert zu werden. Anstatt einem Computer eine Reihe von festen Regeln zu geben, um eine Aufgabe zu lösen, füttert man ihn mit riesigen Mengen an Daten und lässt ihn Muster und Zusammenhänge selbstständig erkennen. Dies ist ein fundamentaler Unterschied zur traditionellen Programmierung, bei der jeder Schritt des Algorithmus genau vordefiniert ist. Stellen Sie sich vor, Sie möchten einem Computer beibringen, Katzen auf Bildern zu erkennen. Anstatt ihm zu sagen: „Eine Katze hat spitze Ohren, einen langen Schwanz und Schnurrhaare“, zeigen Sie ihm tausende von Bildern, die als „Katze“ oder „keine Katze“ markiert sind, und der Algorithmus lernt die charakteristischen Merkmale selbstständig zu identifizieren.

Die Idee des Lernens aus Erfahrung

Das menschliche Gehirn lernt ständig aus Erfahrungen. Wir lernen, dass heißes Wasser uns verbrennt, indem wir uns einmal daran verbrennen, und speichern diese Information ab, um ähnliche Situationen in Zukunft zu vermeiden. Machine Learning ahmt diesen Prozess im Grunde nach, wenn auch auf einer mathematischen und statistischen Ebene. Ein Machine-Learning-Modell wird mit Daten „trainiert“, und dieses Training ist vergleichbar mit dem Sammeln von Erfahrungen. Je mehr und je vielfältiger die Daten sind, desto besser kann das Modell lernen und desto präziser werden seine Vorhersagen oder Entscheidungen sein. Diese Fähigkeit zur Anpassung und Verbesserung im Laufe der Zeit ist das, was Machine Learning so mächtig macht.

Der Unterschied zur klassischen Programmierung

Bei der klassischen Programmierung erhalten Computer detaillierte, schrittweise Anweisungen, wie sie eine Aufgabe ausführen sollen. Wenn Sie beispielsweise ein Programm schreiben möchten, das alle geraden Zahlen in einer Liste findet, geben Sie dem Computer explizit vor: „Gehe durch jede Zahl. Prüfe, ob die Zahl durch 2 teilbar ist. Wenn ja, füge sie zu einer neuen Liste hinzu.“ Beim Machine Learning hingegen würden Sie dem Modell viele Listen mit Zahlen geben, einige mit markierten geraden Zahlen, und es würde lernen, die Regel der Teilbarkeit durch 2 selbst zu entdecken. Diese Flexibilität ermöglicht es, Probleme zu lösen, bei denen die Regeln zu komplex oder unbekannt sind, um sie explizit zu programmieren.

2. Die drei Hauptarten des Machine Learnings

Machine Learning lässt sich grob in drei Hauptkategorien einteilen, die sich durch die Art der Trainingsdaten und das Lernziel unterscheiden. Jede dieser Kategorien hat ihre eigenen Stärken und Anwendungsgebiete, und das Verständnis dieser Unterschiede ist entscheidend, um die passende Methode für ein bestimmtes Problem auszuwählen. Von der Erkennung von Spams in Ihrer E-Mail bis hin zur Steuerung von autonomen Fahrzeugen – all diese Anwendungen basieren auf einer oder mehreren dieser Lernparadigmen.

2.1 Überwachtes Lernen (Supervised Learning)

Beim überwachten Lernen werden dem Modell „gelabelte“ Daten zur Verfügung gestellt. Das bedeutet, für jeden Datensatz gibt es eine korrekte Antwort oder ein Ziel. Das Modell lernt, eine Funktion zu erstellen, die Eingabedaten auf Ausgabedaten abbildet, basierend auf den bereitgestellten Beispielen. Ein klassisches ist die Klassifizierung von E-Mails als „Spam“ oder „kein Spam“. Sie geben dem Modell Tausende von E-Mails, die bereits als Spam oder legitime Nachricht markiert sind. Das Modell lernt dann, Muster in den Texten, Absendern oder anderen Merkmalen zu erkennen, die auf Spam hindeuten.

Klassifizierung und Regression

Innerhalb des überwachten Lernens gibt es zwei Hauptaufgaben: Klassifizierung und Regression. Bei der Klassifizierung geht es darum, Daten in vordefinierte Kategorien einzuteilen. Neben der Spam-Erkennung gehören dazu auch die Erkennung von Bildinhalten (z.B. Katze, Hund, Auto) oder die Diagnose von Krankheiten. Bei der Regression hingegen geht es darum, einen kontinuierlichen Wert vorherzusagen. Ein hierfür ist die Vorhersage von Hauspreisen basierend auf Merkmalen wie Größe, Lage und Anzahl der Zimmer, oder die Vorhersage von Aktienkursen. Für tiefergehende Einblicke in überwachtes Lernen, insbesondere in Algorithmen wie lineare Regression und logistische Regression, sind Ressourcen wie die Dokumentation des Scikit-learn-Pakets sehr hilfreich: Scikit-learn Supervised Learning.

2.2 Unüberwachtes Lernen (Unsupervised Learning)

Beim unüberwachten Lernen erhält das Modell Daten ohne vordefinierte Antworten. Die Aufgabe des Modells besteht darin, Muster, Strukturen oder Beziehungen in den Daten selbstständig zu finden. Dies ist nützlich, wenn wir die Daten explorieren und versteckte Erkenntnisse gewinnen möchten, ohne eine genaue Vorstellung davon zu haben, wonach wir suchen. Ein ist die Gruppierung von Kunden anhand ihres Kaufverhaltens, um gezieltere Marketingkampagnen zu erstellen. Ohne vordefinierte Kundensegmente kann das Modell selbstständig Cluster von ähnlichen Kunden identifizieren.

Clustering und Dimensionsreduktion

Zwei prominente Techniken im unüberwachten Lernen sind Clustering und Dimensionsreduktion. Clustering fasst ähnliche Datenpunkte zu Gruppen zusammen. Stellen Sie sich vor, Sie analysieren Kundendaten und das Modell identifiziert automatisch drei Hauptkundengruppen: preisbewusste Käufer, Trendsetter und Gelegenheitskäufer. Dimensionsreduktion hingegen zielt darauf ab, die Anzahl der Merkmale (Dimensionen) eines Datensatzes zu verringern, ohne dabei wesentliche Informationen zu verlieren. Dies ist nützlich, um komplexe Daten visuell darzustellen oder um die Leistung von anderen Machine-Learning-Algorithmen zu verbessern. Weitere Informationen zu unüberwachtem Lernen und seinen Algorithmen finden Sie : TensorFlow Unsupervised Learning.

2.3 Bestärkendes Lernen (Reinforcement Learning)

Beim bestärkenden Lernen lernt ein Agent durch Ausprobieren und Erhalten von Belohnungen oder Strafen. Der Agent interagiert mit einer Umgebung und trifft Aktionen. Für jede Aktion erhält er entweder positives Feedback (Belohnung) oder negatives Feedback (Strafe). Ziel ist es, eine Strategie (Policy) zu entwickeln, die die kumulative Belohnung über die Zeit maximiert. Dieses Paradigma ist besonders geeignet für Probleme, bei denen sequentielle Entscheidungen getroffen werden müssen, wie zum beim Trainieren eines Roboters, der laufen lernt, oder bei der Entwicklung von Algorithmen für Spiele.

Agenten, Umgebungen und Belohnungen

Ein Schlüsselelement des bestärkenden Lernens ist die Interaktion zwischen einem „Agenten“ und seiner „Umgebung“. Der Agent ist das lernende System, das Entscheidungen trifft. Die Umgebung ist die Welt, mit der der Agent interagiert. Die „Belohnung“ ist das Feedback, das der Agent für seine Aktionen erhält. Ein einfaches wäre ein Programm, das lernt, ein virtuelles Auto durch einen Parcours zu steuern. Wenn das Auto der Strecke folgt und Hindernisse vermeidet, erhält es Belohnungen. Wenn es von der Strecke abkommt oder gegen ein Hindernis fährt, erhält es Strafen. Über viele Wiederholungen lernt der Agent, seine Aktionen so zu optimieren, dass er die höchste Punktzahl erzielt. Eine exzellente Einführung in bestärkendes Lernen bietet die OpenAI-Ressource: OpenAI Spinning Up Reinforcement Learning.

3. Daten: Das A und O im Machine Learning

Ohne Daten gibt es kein Machine Learning. Daten sind der Treibstoff, der alle Machine-Learning-Modelle antreibt. Die Qualität, Quantität und Relevanz der Daten haben einen direkten Einfluss auf die Leistung und Genauigkeit des trainierten Modells. Man kann sagen, dass die Datenaufbereitung oft mehr Zeit in Anspruch nimmt als die eigentliche Modellentwicklung. Die Auswahl und Vorbereitung der richtigen Daten sind daher entscheidende Schritte in jedem Machine-Learning-Projekt.

3.1 Datenerhebung und Datenbereinigung

Die Datenerhebung ist der Prozess des Sammelns der Rohdaten, die für das Training des Modells benötigt werden. Dies kann aus verschiedenen Quellen geschehen, wie Datenbanken, Sensoren, Web-Scraping oder manueller Eingabe. Sobald die Daten gesammelt sind, ist die Datenbereinigung ein kritischer Schritt. Hierbei werden Fehler, Inkonsistenzen, fehlende Werte und Duplikate in den Daten identifiziert und korrigiert. Ein Modell, das mit fehlerhaften Daten trainiert wird, wird auch fehlerhafte Ergebnisse liefern – das ist das Prinzip „Garbage in, garbage out“. Programme wie OpenRefine können bei der Bereinigung von Datensätzen helfen: OpenRefine.

3.2 Merkmalsauswahl und -engineering

Merkmale (Features) sind die einzelnen, messbaren Eigenschaften der Daten, die das Modell zur Vorhersage oder Klassifizierung verwendet. Die Merkmalsauswahl ist der Prozess, die relevantesten Merkmale auszuwählen und irrelevante oder redundante zu entfernen, um die Leistung des Modells zu verbessern und die Trainingszeit zu verkürzen. Merkmals-Engineering ist die Kunst, aus den vorhandenen Merkmalen neue, aussagekräftigere Merkmale zu schaffen. Beispielsweise könnte aus einem Datum-Merkmal ein neues Merkmal „Wochentag“ oder „Monat“ generiert werden, das für die Vorhersage relevanter ist.

3.3 Trainings-, Validierungs- und Testdatensätze

Um sicherzustellen, dass ein Machine-Learning-Modell nicht nur die Trainingsdaten auswendig lernt, sondern auch gut auf neue, unbekannte Daten generalisiert, werden die Daten in drei Sätze aufgeteilt: Trainingsdatensatz, Validierungsdatensatz und Testdatensatz. Der Trainingsdatensatz wird verwendet, um das Modell zu trainieren. Der Validierungsdatensatz wird während des Trainings verwendet, um die Leistung des Modells zu bewerten und Hyperparameter anzupassen, um Überanpassung zu vermeiden. Der Testdatensatz wird abschließend verwendet, um die endgültige Leistung des Modells auf gänzlich neuen Daten zu bewerten. Diese Trennung ist fundamental für eine zuverlässige Bewertung der Modellgenauigkeit.

4. Algorithmen: Die Rechenmaschinerie des Lernens

Algorithmen sind die mathematischen Werkzeuge, die Machine-Learning-Modelle verwenden, um aus Daten zu lernen. Es gibt eine Vielzahl von Algorithmen, jeder mit seinen eigenen Stärken und Schwächen, die für unterschiedliche Arten von Problemen und Daten geeignet sind. Die Auswahl des richtigen Algorithmus hängt von der Art des Problems (Klassifizierung, Regression, Clustering etc.), der Art und Größe der Daten sowie den gewünschten Leistungskriterien ab.

4.1 Lineare Regression und Logistische Regression

Lineare Regression ist ein einfacher, aber mächtiger Algorithmus, der verwendet wird, um die Beziehung zwischen einer abhängigen Variablen und einer oder mehreren unabhängigen Variablen zu modellieren, indem eine lineare Funktion angepasst wird. Sie wird häufig für Regressionsaufgaben verwendet, wie die Vorhersage von Preisen oder Verkaufszahlen. Logistische Regression ist hingegen ein Klassifizierungsalgorithmus, der die Wahrscheinlichkeit vorhersagt, dass ein bestimmter Datenpunkt zu einer bestimmten Klasse gehört. Sie ist weit verbreitet für binäre Klassifizierungsaufgaben, wie z.B. die Erkennung von Spam. Ein guter Einstieg in die mathematischen Grundlagen dieser Algorithmen findet sich in vielen universitären Kursmaterialien, beispielsweise im Kurs „Machine Learning“ von Andrew Ng auf Coursera: Coursera Machine Learning Kurs.

4.2 Entscheidungsbäume und Random Forests

Entscheidungsbäume sind intuitive Algorithmen, die Daten anhand einer Reihe von Regeln, die wie ein Baum strukturiert sind, in Klassen aufteilen. Sie sind leicht zu interpretieren und visuell darzustellen. Ein einzelner Entscheidungsbaum kann jedoch anfällig für Überanpassung sein. Random Forests sind eine Erweiterung von Entscheidungsbäumen, die mehrere Bäume auf zufällig ausgewählten Daten-Teilmengen und Merkmalen erstellen. Die Ergebnisse dieser einzelnen Bäume werden dann aggregiert, um eine robustere und genauere Vorhersage zu treffen. Sie sind besonders effektiv für Klassifizierungs- und Regressionsaufgaben.

4.3 Support Vector Machines (SVMs) und Neuronale Netze

Support Vector Machines sind leistungsstarke Klassifizierungs- und Regressionsalgorithmen, die eine Trennlinie (Hyperplane) finden, die die Datenpunkte verschiedener Klassen mit dem größten Abstand voneinander trennt. Sie sind besonders gut darin, komplexe, nicht-lineare Beziehungen in den Daten zu finden. Neuronale Netze, inspiriert von der Struktur des menschlichen Gehirns, sind die Grundlage für Deep Learning. Sie bestehen aus miteinander verbundenen „Neuronen“, die Informationen verarbeiten und weitergeben. Tiefe neuronale Netze mit vielen Schichten können extrem komplexe Muster erkennen und sind die treibende Kraft hinter vielen aktuellen Durchbrüchen in Bereichen wie Bild- und Spracherkennung.

5. Modellbewertung: Wie gut ist unser lernendes System?

Nachdem ein Modell trainiert wurde, ist es entscheidend zu wissen, wie gut es funktioniert. Die Modellbewertung liefert uns Kennzahlen, um die Leistung des Modells objektiv zu beurteilen und zu vergleichen. Ohne eine gründliche Bewertung könnten wir fälschlicherweise annehmen, dass ein schlecht funktionierendes Modell gute Ergebnisse liefert, oder umgekehrt. Es gibt verschiedene Metriken, je nachdem, welche Art von Aufgabe das Modell löst.

5.1 Genauigkeit, Präzision und Recall

Die Genauigkeit (Accuracy) gibt an, wie oft das Modell insgesamt richtig liegt (korrekte Vorhersagen geteilt durch Gesamtzahl der Vorhersagen). Bei unausgeglichenen Datensätzen, bei denen eine Klasse viel häufiger vorkommt als die andere, kann die Genauigkeit jedoch irreführend sein. kommen Präzision (Precision) und Recall ins Spiel. Präzision misst, wie viele der als positiv vorhergesagten Instanzen tatsächlich positiv waren. Recall misst, wie viele der tatsächlichen positiven Instanzen vom Modell korrekt identifiziert wurden. Für eine detaillierte Übersicht über diese Metriken, siehe die Dokumentation von Scikit-learn: Scikit-learn Model Evaluation.

5.2 F1-Score und ROC-Kurve

Der F1-Score ist das harmonische Mittel aus Präzision und Recall und bietet eine ausgewogenere Metrik, insbesondere bei unausgeglichenen Datensätzen. Er kombiniert beide Werte zu einer einzigen Zahl. Die Receiver Operating Characteristic (ROC)-Kurve ist eine grafische Darstellung der Leistung eines Klassifizierungsmodells bei verschiedenen Schwellenwerten. Sie plottet die Rate der wahrhaft Positiven (Recall) gegen die Rate der fälschlicherweise Positiven. Die Fläche unter der ROC-Kurve (AUC) ist eine gängige Metrik zur Bewertung der Gesamtleistung eines Klassifikators.

5.3 Kreuzvalidierung

Kreuzvalidierung ist eine fortgeschrittene Technik zur Modellbewertung, die hilft, die Leistung des Modells auf unabhängigen Daten besser abzuschätzen und das Risiko von Überanpassung zu reduzieren. Bei der k-fachen Kreuzvalidierung wird der Trainingsdatensatz in k gleiche Teile (Folds) aufgeteilt. Das Modell wird dann k-mal trainiert, wobei jedes Mal ein anderer Fold als Validierungsdatensatz verwendet wird und die restlichen k-1 Folds als Trainingsdatensatz dienen. Die Ergebnisse werden anschließend gemittelt, um eine robustere Schätzung der Modellleistung zu erhalten. Dies ist eine Standardmethode, um die Verlässlichkeit eines Modells zu prüfen.

6. Überanpassung und Unteranpassung: Die Fallen beim Lernen

Zwei der häufigsten Probleme beim Trainieren von Machine-Learning-Modellen sind Überanpassung (Overfitting) und Unteranpassung (Underfitting). Beide Situationen führen dazu, dass das Modell schlecht auf neuen, unbekannten Daten abschneidet, obwohl die Ursachen und Symptome unterschiedlich sind.

6.1 Was ist Überanpassung?

Überanpassung tritt auf, wenn ein Modell zu komplex ist und die Trainingsdaten zu gut lernt, einschließlich des darin enthaltenen Rauschens und spezifischer Eigenheiten. Das Modell „merkt“ sich die Trainingsdaten quasi auswendig, anstatt die zugrundeliegenden Muster zu generalisieren. Das Ergebnis ist eine sehr hohe Genau

Autorin

Laura Schneider

Content Creator @ Taurus Software

info@taurus-software.de