Machine Learning – Definition
- Prinzipien, Methoden und Algorithmen verwenden, um etwas zu Lernen und auf der Basis von historischen Daten Vorhersagen zu machen
Beispiele:
- Spracherkennung - Siri
- Handschrifterkennen
- Textfilterprogramme (Spamfilter)
- Robotics (Google Fahrerlose Autos)
- Prinzipien, Methoden und Algorithmen verwenden, um etwas zu Lernen und auf der Basis von historischen Daten Vorhersagen zu machen
Beispiele:
- Spracherkennung - Siri
- Handschrifterkennen
- Textfilterprogramme (Spamfilter)
- Robotics (Google Fahrerlose Autos)
Machine Learning - Ziel:
- etwas Lernen, um einen Task auf Basis von Erfahrung auszuführen
- Maschine soll die relevanten Kriterien automatisch von vergangenen Beobachtungen lernen und auf gegebene Situationen anwenden
- Performance eines Tasks aufgrund von Erfahrung
- Performance: wird oft in % gemessen
- benötigt Methoden aus Statistik, Wahrscheinlichkeitstheorien,…
Machine Learning – Task

Beispiele von Machine Learning:
Regression
→ kontinuierlichem Output (z.B. selbstfahrendes Auto)
→ bezieht sich auf reale Zahlen
Klassifikation
- diskreter Output (mit bestimmten Kategorien)
→ bezieht sich auf Klassenlabel
- z.B. Spamfilter
Clustering
- nahegelegene Punkte werden in einem Cluster zusammengefasst
→ Struktur innerhalb von Daten erkennen
Machine Learning – Supervised und unsupervised learning
Supervised learning
= Daten mit Labels (historische Daten z.B. Spam – JA/NEIN-Klassifizierung)
- wird häufig bevorzugt, wenn diese Daten vorliegen
Unsupervised learning
= Daten ohne Labels (z.B. Vermutung, dass Spams anders geschrieben sind als normale Mails)
- Versuch, eine Struktur in den Daten zu finden
- z.B. Clustering (Klassen aufgrund von statistischen Eigenschaften des Datensatzes finden)
k-nearest Neighbor (k-NN) Klassifikation
Input:
- Trainingsdaten als Vektoren in einem multidimensionalen Raum
- jeder Datensatz hat ein Klassenlabel
- Klassifikation als Mehrheitswahl (der Klassifikation der Nachbarn)
→ Ergebnis abhängig von der Anzahl der Nachbarn, die betrachtet werden (k)
→ k sollte optimiert werden (basierend auf cross-validation)
Distanz berechnen, um die Nachbarn in der Nähe zu identifizieren

k-nearest Neighbor – Case study
Können wir die Kreditwürdigkeit von Konsumenten vorhersagen?

Entscheidungsbäume in R implementieren

Assessment der Modelle (anhand folgender Kriterien)
1. Vorhersagekraft des Modells (bei neuen Daten)
2. Dauer der Erstellung und Vorhersage des Modells
3. Robustheit
4. Skalierbarkeit
5. Interpretierbarkeit
Manuelle Berechnung der Precision in R

Manuelle Berechnung der Accuracy in R

Trade-off: Sensitivity vs. Specificity/Precision

Predictive vs. Explanatory Power
1. Empirische Modelle für Vorhersagen
→ statistische Modelle, Methoden des Data minings
→ Vorhersagen über neue Beobachtungen
→ Predictive Analytics (accuracy, precision)
2. Empirische Modelle für Erklärungen
→ testen Hypothesen
→ Erklärungsgehalt wird gemessen durch statistische Tests und R²
→ Erklärungsgehalt bedeutet nicht, dass das Modell gute Vorhersagen treffen kann
Overfitting
- wenn der Lernalgorithmus zu lange performt und sich zu stark an die Trainingsdaten anpasst
→ die Vorhersagekraft bei den Testdaten sinkt jedoch
Lösungsansätze für Overfitting und Lernkurve des Modells

Gründe für Resampling

Model tuning
- meistens müssen Parameter optimiert werden
→ durch die cross-validation können diese Parameter optimiert werden (beispielsweise optimale Anzahl von k)
Das caret Package
- Funktionen

Modell Trainieren:

Vorhersage anhand der Testdaten → mit Hilfe der Confusion Matrix :

Different ways to improve your model

Underfitting und overfitting -> grafisch
