Neuro computer science - Interactive curriculae of TU Ilmenau

Keine

In der Vorlesung "Neuroinformatik und Maschinelles Lernen" lernen die Studierenden die konzeptionellen, methodischen und algorithmischen Grundlagen der Neuroinformatik und des Maschinellen Lernens kennen.  Sie verstehen die grundsätzliche Herangehensweise dieser Form des Wissenserwerbs, der Generierung von Wissen aus Beobachtungen und Erfahrungen. Sie verstehen, wie ein künstliches System aus Trainingsbeispielen lernt und diese nach Beendigung der Lernphase verallgemeinern kann. Dabei werden die Beispiele nicht einfach auswendig gelernt, sondern das System „erkennt” Muster und Gesetzmäßigkeiten in den Lerndaten. Die Studierenden lernen die wesentlichen Konzepte, Lösungsansätze sowie Modellierungs- und Implementierungstechniken beim Einsatz von neuronalen und probabilistischen Methoden der Informations- und Wissensverarbeitung kennen. Die Studierenden sind in der Lage, praxisorientierte Fragestellungen aus dem o. g. Problemkreis zu analysieren, durch Anwendung des behandelten Methodenspektrums auf Fragestellungen aus den behandelten Bereichen (Signal-, Sprach- und Bildverarbeitung, Robotik und autonome Systeme, Assistenzsysteme, Mensch-Maschine Interaktion) neue Lösungskonzepte zu entwerfen und algorithmisch (Fokus auf Python) umzusetzen sowie bestehende Lösungen zu bewerten.

Die Lehrveranstaltung vermittelt das erforderliche Methodenspektrum aus theoretischen Grundkenntnissen und praktischen Fähigkeiten zum Verständnis, zur Implementierung und zur Anwendung neuronaler und probabilistischer Techniken des Wissenserwerbs durch Lernen aus Erfahrungsbeispielen sowie zur Informations- und Wissensverarbeitung in massiv parallelen Systemen. Sie vermittelt sowohl Faktenwissen, begriffliches und algorithmisches Wissen aus folgenden Themenkomplexen:

Intro: Begriffsbestimmung, Literatur, Lernparadigmen (Unsupervised / Reinforcement / Supervised Learning), Haupteinsatzgebiete (Klassifikation, Clusterung, Regression, Ranking), Historie

Neuronale Basisoperationen und Grundstrukturen:

Neuronenmodelle: Biologisches Neuron, I&F Neuron, Formale Neuronen

Netzwerkmodelle: Grundlegende Verschaltungsprinzipien & Architekturen

Lernparadigmen und deren klassische Vertreter:

Unsupervised Learning: Vektorquantisierung, Self-Organizing Feature Maps, Neural Gas, k-Means Clustering

Reinforcement Learning: Grundbegriffe, Q-Learning

Supervised Learning: Perzeptron, Multi-Layer-Perzeptron & Error-Backpropagation-Lernregel, RBF-Netze, Support Vector Machines (SVM)

Moderne Verfahren für große Datensets

 Deep Neural Networks: Grundidee, Arten, Convolutional Neural Nets (CNN)

Anwendungsbeispiele: Signal-, Sprach- und Bildverarbeitung, Robotik und autonome Systeme, Assistenzsysteme, Mensch-Maschine Interaktion

Exemplarische Software-Implementationen neuronaler Netze für unüberwachte und überwachte Lern- und Klassifikationsprobleme (Fokus auf Python)

Die Studierenden erwerben somit auch verfahrensorientiertes Wissen, indem für reale Klassifikations- und Lernprobleme verschiedene neuronale Lösungsansätze theoretisch behandelt und praktisch umgesetzt werden. Ethische, soziale und rechtliche Aspekte beim Einsatz von Techniken des Maschinelles Lernens im Allgemeinen sowie wesentliche datenschutzrechtliche Randbedingungen werden diskutiert. Im Rahmen des Pflichtpraktikums werden die behandelten methodischen und algorithmischen Grundlagen der neuronalen und probabilistischen Informationsverarbeitungs- und Lernprozesse durch die Studierenden mittels Jupyter Notebooks interaktiv vertieft und in Python umgesetzt.

Powerpoint-Folien (als Papierkopie oder PDF), Demo-Apps, Videos, Python Demo Code

- Zell, A.: Simulation Neuronaler Netzwerke, Addison-Wesley 1997

- Bishop, Ch.: Pattern Recognition and Machine Learning, Springer 2006

- Alpaydin, Ethem: Maschinelles Lernen, Oldenbourg Verlag 2008

- Murphy, K.: Machine Learning – A Probabilistic Perspective, MIT Press 2012

- Goodfellow, I. et al.: Deep Learning, MIT Press 2016