Neural Computing and Machine Learning - Interactive curriculae of TU Ilmenau

• schriftliche Prüfungsleistung über 90 Minuten mit einer Wichtung von 100% (Prüfungsnummer: 2200735)
• Studienleistung mit einer Wichtung von 0% (Prüfungsnummer: 2200736)

Bearbeitung von Software-Praktikumsmodulen inclusive der Erstellung von Praktikumsprotokollen

keine

Im Modul "Neuroinformatik und Maschinelles Lernen" haben sich die Studierenden die konzeptionellen, methodischen und algorithmischen Grundlagen der Neuroinformatik und des Maschinellen Lernens angeeignet. Sie haben die grundsätzliche Herangehensweise dieser Form des Wissenserwerbs, der Generierung von Wissen aus Beobachtungen und Erfahrungen verstanden. Sie verfügen über das Verständnis, wie ein künstliches System aus Trainingsbeispielen lernt und diese nach Beendigung der Lernphase verallgemeinern kann, wobei die Beispiele nicht einfach auswendig gelernt werden, sondern das System "erkennt" Muster und Gesetzmäßigkeiten in den Lerndaten. Die Studierenden haben die wesentlichen Konzepte, Lösungsansätze sowie Modellierungs- und  Implementierungstechniken beim Einsatz von neuronalen und probabilistischen Methoden der Informations- und Wissensverarbeitung kennen gelernt. Die Studierenden sind in der Lage, praxisorientierte Fragestellungen aus dem o. g. Problemkreis zu analysieren, durch Anwendung des behandelten Methodenspektrums auf Fragestellungen aus den behandelten Bereichen (Signal-, Sprach- und Bildverarbeitung, Robotik und autonome Systeme, Assistenzsysteme, Mensch-Maschine Interaktion)neue Lösungskonzepte zu entwerfen und algorithmisch (Fokus auf Python) umzusetzen sowie bestehende Lösungen zu bewerten.

Exemplarische Software-Implementationen neuronaler Netze für unüberwachte und überwachte  Lern- und Klassifikationsprobleme (Fokus auf Python) - Teilleistung 2

Die Studierenden haben nach dem Praktikum somit auch verfahrensorientiertes Wissen, indem für reale Klassifikations- und Lernprobleme verschiedene neuronale Lösungsansätze theoretisch behandelt und praktisch umgesetzt wurden. Im Rahmen des Pflichtpraktikums wurden die behandelten methodischen und algorithmischen Grundlagen der neuronalen und probabilistischen Informationsverarbeitungs- und Lernprozesse durch die Studierenden mittels interaktiver Demo-Applets vertieft und in Gesprächsgruppen aufgearbeitet.

Nach intensiven Diskussionen während der Übungen und zur Auswertung des Praktikums können die Studierenden Leistungen ihrer Mitkommilitonen richtig einschätzen und würdigen. Sie berücksichtigen Kritik, beherzigen Anmerkungen und nehmen Hinweise an.

Die Lehrveranstaltung vermittelt das erforderliche Methodenspektrum aus theoretischen Grundkenntnissen und praktischen Fähigkeiten zum Verständnis, zur Implementierung und zur Anwendung neuronaler und probabilistischer Techniken des Wissenserwerbs durch Lernen aus Erfahrungsbeispielen sowie zur Informations- und Wissensverarbeitung in massiv parallelen Systemen. Sie vermittelt sowohl Faktenwissen, begriffliches und algorithmisches Wissen aus folgenden Themenkomplexen:

Intro: Begriffsbestimmung, Literatur, Lernparadigmen (Unsupervised / Reinforcement / Supervised Learning), Haupteinsatzgebiete (Klassifikation, Clusterung, Regression, Ranking), Historie

Neuronale Basisoperationen und Grundstrukturen

Neuronenmodelle: Biologisches Neuron, I&F Neuron, Formale Neuronen

Netzwerkmodelle: Grundlegende Verschaltungsprinzipien & Architekturen

Lernparadigmen und deren klassische Vertreter:

• Unsupervised Learning: Vektorquantisierung, Self-Organizing Feature Maps, Neural Gas, k-Means Clustering
• Reinforcement Learning: Grundbegriffe, Q-Learning
• Supervised Learning: Perzeptron, Multi-Layer-Perzeptron & Error-Backpropagation-Lernregel, RBF-Netze, Support Vector Machines (SVM)

 Moderne Verfahren für große Datensets

• Deep Neural Networks: Grundidee, Arten, Convolutional Neural Nets (CNN)

Anwendungsbeispiele: Signal-, Sprach- und Bildverarbeitung, Robotik und autonome Systeme, Assistenzsysteme, Mensch-Maschine Interaktion

Exemplarische Software-Implementationen neuronaler Netze für unüberwachte und überwachte Lern- und Klassifikationsprobleme (Fokus auf Python)

Die Studierenden erwerben somit auch verfahrensorientiertes Wissen, indem für reale Klassifikations- und Lernprobleme verschiedene neuronale Lösungsansätze theoretisch behandelt und praktisch umgesetzt werden. Ethische, soziale und rechtliche Aspekte beim Einsatz von Techniken des Maschinelles Lernens im Allgemeinen sowie wesentliche datenschutzrechtliche Randbedingungen werden diskutiert. Im Rahmen des Pflichtpraktikums werden die behandelten methodischen und algorithmischen Grundlagen der neuronalen und probabilistischen Informationsverarbeitungs- und Lernprozesse durch die Studierenden mittels Jupyter Notebooks interaktiv vertieft und in Python umgesetzt.

Powerpoint-Folien (als Papierkopie oder PDF), Demo-Apps, Videos, Python Demo Code

- Zell, A.: Simulation Neuronaler Netzwerke, Addison-Wesley 1997

- Bishop, Ch.: Pattern Recognition and Machine Learning, Springer 2006

- Alpaydin, Ethem: Maschinelles Lernen, Oldenbourg Verlag 2008

- Murphy, K.: Machine Learning - A Probabilistic Perspective, MIT Press 2012

- Goodfellow, I. et al.: Deep Learning, MIT Press 2016