http://www.tu-ilmenau.de

Logo TU Ilmenau


Neuroinformatics and
Cognitive Robotics Lab

headerphoto Neuroinformatics and 
Cognitive Robotics Lab
Ansprechpartner

Univ.-Prof. Dr.-Ing. Horst-Michael Groß

Head of department

Telefon +49 3677 692858

E-Mail senden

INHALTE

ANI - Angewandte Neuroinformatik

Hinweise

Tragen Sie sich bitte MIT IHRER UNI-MAILADRESSE in den Mailverteiler zu dieser Vorlesung ein, um die Zugangsdaten für die Vorlesungs-Unterlagen sowie aktuelle Informationen zu erhalten.

Senden Sie dazu eine Email mit dem Betreff:
Eintrag in die Liste ANI
an folgende Adresse: ani@tu-ilmenau.de.

Sie erhalten als Antwort den Hinweis, dass Ihre Email zurückgehalten wird, bis der Moderator diese genehmigt hat. Das kann bis zu einem Tag dauern, am Wochenende auch länger. Sobald Sie in die Liste aufgenommen sind, erhalten Sie eine entsprechende Willkommensnachricht.


Die Unterlagen, die auf dieser Seite zur Verfügung gestellt werden, sind passwortgeschützt.
Die Zugangsdaten werden Ihnen nach Eintrag in den o.g. Mailverteiler  zugesandt.


Lehrinhalte

Vertiefung der Vorlesung "Neuroinformatik" zur Ergänzung der Grundlagen um applikationsspezifisches Wissen.

Die Lehrveranstaltung vermittelt sowohl Faktenwissen als auch begriffliches Wissen aus den folgenden Kernbereichen: Entwicklung von Systemlösungen mit Neuronalen Netzen; Wesentliche Module eines Mustererkennungssystems; typische Netzwerkein- und Ausgabekodierung; Merkmalsauswahl mittels Signifikanzanalyse; Dimensionsreduktion und Datendekorrelation mittels Hauptkomponentenanalyse (PCA); Quellenseparierung mittels Independent Component Analysis (ICA); Bootstrapping-Algorithmen zur Effektivierung des Lernens; Boosting-Techniken zur Organisation leistungsfähiger Klassifikatoren; exemplarische Anwendungsbeispiele und Implementierungen aus den Bereichen biomedizinischen Datenanalyse, Mustererkennung, Bildverarbeitung, Robotik und Mensch-Maschine-Schnittstellen.


Vorlesungsskript + Prüfungsschwerpunkte SS 2018

Python

Python (Version 3.6) wird in der Übung genutzt, um die behandelten Verfahren durch Implementierungen zu vertiefen. Außerdem wird Python genutzt, um die individuellen Pflichtaufgaben anzuzeigen.


Übungsaufgaben

Material für Übung amAufgabenZusatzmaterial
16.04.18Aufgaben 1-6: Bias-Varianz-Dilemma, Skalierung, Normierung, PCA

Pflichtaufgabe 1

Zusatzaufgaben 1-9

Hashfunktion Matrikelnummer

Python-Code

Folien

25./26.04.18 / 02./03.05.18Python Neuronale Netze TutorialANI-Tutorial.zip
14.05.18Aufgaben 7-9: PCA

Pflichtaufgabe 2

Python-Code

Folien

24.05.18Aufgaben 10-14: ICA, LDA, Merkmalsauswahl

Pflichtaufgabe 3

Python-Code

Folien
28.05.18Aufgaben 15-18, 20: Merkmalsauswahl

Pflichtaufgabe 4

Python-Code

Folien
11.06.18Aufgaben 19, 21, 22: Merkmalsauswahl

Python-Code

Folien

25.06.18

 Aufgaben 23-26: Leistungsbewertung

Pflichtaufgabe 5

Python-Code

Folien
09.07.18Aufgaben 24-30: Ensemble, Fusion, Repräsentation von Zeit

Python-Code

Folien

 

Punkte Pflichtaufgaben:

(aktuelle Aufgabe: P1, Frist: 30.04.2018, 12:00 Uhr)

HASH(Matr.Nr.) Punkte HASH(Matr.Nr.) Punkte HASH(Matr.Nr.) Punkte
*******111 2% *******354 2% *******541 2%
*******171 2% *******417 2% *******607 2%
*******173 2% *******449 2% *******699 2%
*******218 2% *******450 2% *******700 2%
*******247 2% *******458 2% *******703 2%
*******264 2% *******469 2% *******717 2%
*******315 2% *******510 2% *******924 2%
*******322 2% *******533 2% *******953 2%

 

Bonuspunkte Zusatzaufgaben:

(aktuelle Aufgabe: Z1, Frist: 30.04.2018, 12:00 Uhr)

HASH(Matr.Nr.) Bonus HASH(Matr.Nr.) Bonus HASH(Matr.Nr.) Bonus
*******111 1% *******322 1% *******700 1%
*******171 1% *******449 1% *******703 3%
*******173 1% *******469 1% *******717 1%
*******218 1% *******533 1% *******922 1%
*******247 1% *******541 1% *******924 1%
*******264 1% *******629 1% *******953 1%
*******315 1% *******699 1%

 


ANI-Contest Sommersemester 2018

Die Vorlesungsinhalte sollen am Beispiel eines binären Klassifikationsproblems vertieft werden. Sie erhalten hierzu zwei Datensätze. Der Trainingsdatensatz enthält dabei alle notwendige Informationen (Eingabedaten und Klassenzugehörigkeitsinformation), um einen Klassifikator zu trainieren. Der Testdatensatz enthält nur Eingabedaten, die Klasse soll von Ihnen bestimmt werden.

Ziel:
Minimieren Sie den Fehler über dem Testdatensatz. Verwenden Sie dazu möglichst wenige Merkmale, die dem Klassifikator zur Verfügung stehen.

Aufgabenstellung:

  1. Führen Sie eine Vorverarbeitung und Merkmalsextraktion für den Trainingsdatensatz durch. Geeignete Verfahren werden in der Vorlesung behandelt.
  2. Trainieren Sie einen Klassifikator (verzugsweise ein Neuronales Netz) ihrer Wahl. Sie können dazu fertige Tools wie beispielsweise das Python-Deep-Learning-Package Keras verwenden, aber Sie dürfen natürlich auch auf Ihre selbstimplementierten Klassifikatoren (z.B. aus der NI-Vorlesung) zurückgreifen.
  3. Klassifizieren Sie den Testdatensatz und schicken die Ergebnisse ein. Diese werden dann bewertet und in ein Ranking aufgenommen.

Bewertung der Ergebnisse:
Als Bewertungsmaß auf dem Testdatensatz kommt die Balanced Error Rate zum Einsatz. Mehr Details zu diesem Bewertungsmaß erfahren sie im Verlauf der Vorlesung (Kapitel 6).


Datensätze:
Die Datensätze sind wie folgt aufgebaut: Jede Zeile enthält ein Trainingsbeispiel (1250 im Trainingsdatensatz, 1750 im Testdatensatz), jede Spalte entspricht einem Merkmal (insgesamt gibt es 52 Eingangsmerkmale). Die Klasseninformation zum Trainingsdatensatz ist mit Null und Eins codiert, wobei jedes Datenbeispiel in einer neuen Zeile beginnt.

ANI-Contest.zip (~1234 kB)
(Das Passwort ist dasselbe, wie für die Vorlesungsunterlagen.)

Einsendung der Ergebnisse:
Ihre Ergebnisse senden Sie bis Dienstag 10.07.2018 (alle Einsendungen bis 23:59 Uhr werden berücksichtigt) mit dem Betreff "ANI-Contest" an markus.eisenbach@tu-ilmenau.de.
Diese Ergebnisse umfassen eine Datei mit den geschätzten Klassen für den Testdatensatz, sowie eine kurze Angabe zu den von ihnen verwendeten Methoden. Die Datei muss im selben Format, wie die ANI-Training.Label-Datei angelegt sein. Der Dateiname sollte folgende Konvention erfüllen: {Nachname}_{Matrikelnummer}_{Datum der Einsendung im Format TTMM ohne Trennzeichen}.Label. In der Email nennen Sie bitte die zum Einsatz gekommenen Methoden der Merkmalsextraktion (z.B. linearer Korrelationskoeffizient), geben an wie viele und welche der Merkmale 0 bis 51 ausgewählt wurden (falls anwendbar, z.B. Subset = [0 11 22 33 44]) und welchen Klassifikator Sie eingesetzt haben (z.B. MLP mit einer 20-10-1 Struktur). Sie dürfen mehrfach Ergebnisse einsenden, jedoch erst nach dem Ablauf von sieben Tagen seit der letzten Einsendung.
Bis zum Klausurtermin schicken Sie bitte ein zusätzliches PDF Dokument ein, in welchem Sie etwas ausführlicher, aber stichpunktartig, ihre Herangehensweise und verwendeten Methodiken sowie die gewonnenen Erkenntnisse dokumentieren. Der Umfang sollte 1 - 2 A4 Seiten nicht überschreiten. Ebenfalls beizufügen ist in gepackter Form (als zip oder tar Archiv) der Code, den sie verwendet haben, um die Merkmalsauswahl durchzuführen.

Ranking der Einsendungen:
Die eingesendeten Ergebnisse werden auf dem Ranking-Reiter eingestellt. Dieser wird (meistens) einmal pro Woche aktualisiert. So können Sie ihre aktuelle Platzierung einsehen, und gegebenenfalls an der Verbesserung ihrer Ergebnisse arbeiten. Die Ergebnisse werden in der letzten Übung oder Vorlesung ausgewertet.

Belohnungen:
Basierend auf dem erzielten Ergebnis werden Ihnen, neben Ruhm und Ehre, Punkte in der Abschlussklausur gut geschrieben, falls sie über der Schwelle von einem oder zwei Referenzklassifikatoren liegen (BER_1 = 33.40% [5 Bonuspunkte], BER_2 = 22.59% [10-15 Bonuspunkte entsprechend dem Ranking]) und alle notwendigen Dokumente eingesendet haben.

Aktuelles Ranking:

Stand ANI Contest 17.04.2018#()
RangHASH(Matr.Nr.)BERBonus
-- Schwelle 2 --22.59%10.00%
1*******21829.82%5.00%
-- Schwelle 1 --33.40%5.00%

 

Fragen und Probleme:
Bei Fragen und Problemen können Sie sich an Markus Eisenbach wenden.

Bemerkung:
Lassen Sie sich nicht von großen Fehlerraten abschrecken. Das Klassifikationsproblem ist verhältnismäßig schwierig, da die sensorischen Eingabekanäle stark verrauscht wurden.

Viel Spaß beim Implementieren und Probieren!
Horst-Michael Groß und Markus Eisenbach