Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/211
Klassifikation von Multidimensionale Zeitreihen mit
Hilfe von Deep Learning
Manuel Meyer
Master Grundseminar WS 2014 / 2015
Betreuender Professor: Prof. Dr.-Ing. Andreas Meisel
Master Informatik - Grundseminar
Department Informatik
19.01.2016 M. Meyer
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/212
Gliederung
• Motivation & Zielsetzung
• Das Neuron
• Training Neuronaler Netze
• Netze für zeitveränderliche Muster
• Aktuelle Entwicklungen
• Veröffentlichungen
• Eigene Idee
• Abgrenzung
• Ziele Projekt 1 & Hauptprojekt
• Konferenzen
19.01.2016 M. Meyer
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Motivation & Zielsetzung
19.01.2016 M. Meyer 3
Klassi
fikato
r
Sensoren
Diagnosewahrscheinlichkeit einer Krankheit
Herzinfarkt Gefährdung
Ja
Nein
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Das Neuron
Aktivierungsfunktion
19.01.2016 M. Meyer 4
+Neuron j
𝑊1𝑗
𝑊2𝑗
𝑊3𝑗
j Schwellwert (bias)
𝑂𝑗
𝑂𝑗 = 𝑓(𝑛𝑒𝑡𝑗)
𝑛𝑒𝑡𝑗
jij
i
ij wonet Anm. zur Gewichtsnotation:𝑾𝑬𝒊𝒏𝒈𝒂𝒏𝒈𝒔𝒏𝒖𝒎𝒎𝒆𝒓 𝒊 , 𝑵𝒓.𝒅𝒆𝒔 𝑵𝒆𝒖𝒓𝒐𝒏 (𝒋)
𝐎1
𝑶2
𝑶𝑛
.
.
.
[1]
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Verbindungsnetzwerk (feed-forward NN) Anm.: = Neuron
19.01.2016M. Meyer
5
Verdeckte Schicht
Ausgabeschicht
EingabeschichtEingabedaten
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Training Neuronaler Netze
19.01.2016 M. Meyer 6
Wie können die
Verbindungsgewichte
eingestellt werden ?
Training
= Beeinflussung der Gewichte,
so dass sich das gewünschte
Verhalten einstellt.
[1]
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Netze für zeitveränderliche Muster
Sliding-Window-Verfahren
Zweck:
Erkennung von Systematiken in
Impulsfolgen
Beispiele:
- Prognosesysteme,
- Aktien kaufen/halten/verkaufen,
- Wetterdaten,
- medizinische Diagnostik
19.01.2016 M. Meyer 7
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Netze mit Rückkopplung (rekurrente Netze)
Ausgangssignale sind abhängig
– Von den Eingangssignalen
– Von der zeitlichen Vorgeschichte (gespeichert als innerer Zustand)
• Erkennung von Systematiken in Zeitfunktionen (Jordan-Elman-Netz)
• EKG-Klassifizierung für die Erkennung von ventrikulären Extrasystolen,
Herzkammer-flattern, Herzkammerflimmern und anderen
Herzrhythmusstörungen.
19.01.2016 M. Meyer 8
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Netze mit Rückkopplung (rekurrente Netze)
19.01.2016 M. Meyer 9
Eingabeschicht
verdeckte Schicht
Ausgabeschicht
[1]
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Aktuelle Entwicklungen (Was ist CNN?)
Convolutional Neuronal Networks (CNN):
- Faltungsnetzwerke
- Eine Variante von NN mit mehreren Schichten und besonderer
Architektur
- Vorgestellt von Yann LeCun et al. in 1989 [2]
- Liefern sehr gute Ergebnisse z.B. bei:
- Gesichtserkennung
- Bilderkennung
- Spracherkennung
- Robust: unempfindlich gegen Rotation, Translation, Skalierung, usw.
19.01.2016 M. Meyer 10
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Faltung
19.01.2016 M. Meyer 11
Grundprinzip der Faltung [4]
• Eingabedaten werden mit einer
Faltungsmaske bearbeitet
• Korrespondierende Punkte
werden berechnet und neuer
Pixel wird erzeugt
• Merkmale/Features können
hervorgehoben oder unterdrückt
werden
• Faltungskerne werden trainiert
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Stand der Technik I
• Deep Belief Network Based State Classification for Structural Health
Diagnosis [2]
• Wichita State University
• Prasanna Tamilselvan, Yibin Wang, Pingfeng Wang
• IEEE Aerospace Conference, 2012 , Montana (03 Mar - 10 Mar 2012)
• Effektive Diagnoseverfahren für aircraft wing structure (verbesserte Sicherheit
u. Zuverlässigkeit, Lebenszyklus, Belastungsgrenzen )
• geringere Kosten für Wartung und Reparatur
• mehrere gestapelte Restricted Boltzmann-Maschinen
• Höhere Genauigkeit durch Klassifikation
– weitere Untersuchungen -> Prognosen Multisensoren von komplexen
Systemen
19.01.2016 M. Meyer 12
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Stand der Technik II
• Long-term Recurrent Convolutional Networks for Visual Recognition and
Description [3]
• The IEEE Conference on Computer Vision and Pattern Recognition (CVPR), Boston,
MA (07 June - 12 June 2015)
• Donahue, J., Hendricks, L.A. ; Guadarrama, S. ; Rohrbach, M. ; Venugopalan, S. ;
Darrell, T. ; Saenko, K, UC Berkeley, Berkeley, CA, USA
• Entwicklung neuer Architektur von recurrent convolutional neural network (RCNN)
• Experimente - Video und Bildsequenzerkennung mit Bildbeschreibung
19.01.2016 M. Meyer 13
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Stand der Technik II
19.01.2016 M. Meyer 14
[3]
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Idee
• Convolutional Neuronale Netze + Netze mit Rückkopplung
• Heterogene Sensordaten
• Vorhersage, Prognosen, Abschätzungen
• aus vorgegebenen Daten weitere Informationen gewinnen
• Aktuelle Verfahren der Mustererkennung
19.01.2016 M. Meyer 15
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Abgrenzung
• Verknüpfung von Convolutional Neuronale Netze +
Rückgekoppelten Netze (rekurrente Netze)
• Aktuelle Verfahren der Musterkennung
• Heterogenen Sensordaten
19.01.2016 M. Meyer 16
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Ziele Grundprojekt 1
• Tieferes Verständnis der CNN verschaffen
• Erprobung verschiedener Bibliotheken/Frameworks (CNN+RNN)
– Matlab, Caffe, Tensorflow…..
• Trainingsumgebung kennenlernen und erweitern
• Beschaffung geeigneter Trainings- und Testdatensätze für
multidim. Zeitsignale
19.01.2016 M. Meyer 17
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Ziele Hauptprojekt
• Szenario festlegen
• Aufbau eigenes Multisensorsystem
• ……..
19.01.2016 M. Meyer 18
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Konferenzen
• ICANN - International Conference on Artifical Inteligence
Neuronal Network (September 6-9, 2016 in Spain, Barcelona)
• GPU Technology Conference (NVIDIA Conference)
(April 4-7, 2016 in Silicon Valley)
• Deeper Learning Conference (March 23-25, 2016 in
San Diego, CA)
19.01.2016 M. Meyer 19
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Danke für Ihre Aufmerksamkeit
19.01.2016 M. Meyer 20
Gibt es noch Fragen?
Department Informatik
Klassifikation Multidimensionale Zeitreihen mit Hilfe von Deep Learning
/21
Literaturverzeichnis
[1] A. Meisel. Vorlesungsskript „Robot Vision“ 2015.
[2] Prasanna Tamilselvan, Yibin Wang, Pingfeng Wang, Deep Belief Network Based State Classification for
Structural Health Diagnosis. Wichita State University, 2012.
[3] Donahue, J., Hendricks, L.A. ; Guadarrama, S. ; Rohrbach, M. ; Venugopalan, S. ; Darrell, T. ; Saenko, K,
Long-term Recurrent Convolutional Networks for Visual Recognition and Description, UC Berkeley,
Berkeley, CA, USA, 2015.
[4] Tobias, H. : Klassifikation hochvarianter Muster mit Faltungsnetzwerken, HAW Hamburg, Bachelorarbeit,
Januar 2012.
[5] http://jan.ucc.nau.edu/~daa/heartlung/ekgfile/.
19.01.2016 M. Meyer 21