Prof. Dr. Andreas Müller

Wintersemester 2023/24

• Forschungssemester am CERN in Genf in der Section Controls and Beam Studies for Protection (TE-MPE-CB)
  • Einsatz von LLMs zur Unterstützung von Softwareentwicklung am CERN
  • Analyse von Beam Interlock Daten mit Machine Learning

Sommersemester 2023

• Bachelor:
  • Technische Grundlagen der Informatik
  • Programmieren II
• Master:
  • Elaborierte IT-Prozesse (Praxisprojekt)
  • Wissenschaftliches Seminar
  • Studiengangskoordinator Master Informatik

Wintersemester 2022/23

• Bachelor:
  • Programmieren I
  • Rechnerarchitektur
  • Praxisprojekt Forschung und Entwicklung

• Master:
  • Studiengangskoordinator Master Informatik

Sommersemester 2022

• Bachelor:
  • Rechnerarchitektur
  • Mikroprozessorsysteme
• Master:
  • Elaborierte IT-Prozesse (Praxisprojekt)
  • Wissenschaftliches Seminar
  • Studiengangskoordinator Master Informatik

Wintersemester 2021/22

• Bachelor:
  • Technische Grundlagen der Informatik
  • Project System Development
• Master:
  • Studiengangskoordinator Master Informatik

Sommersemester 2021

• Bachelor:
  • Programmieren, Algorithmen & Datenstrukturen II
  • Rechnerarchitektur
• Master:
  • Elaborierte IT-Prozesse (Praxisprojekt)
  • Wissenschaftliches Seminar
  • Studiengangskoordinator Master Informatik

Wintersemester 2020/21

• Bachelor:
  • Programmieren, Algorithmen & Datenstrukturen I
  • Mikroprozessorsysteme
  • Praxisprojekt Forschung und Entwicklung
• Master:
  • Studiengangskoordinator Master Informatik

Sommersemester 2020

• Bachelor:
  • Technische Grundlagen der Informatik
  • Rechnerarchitektur
• Master:
  • Elaborierte IT-Prozesse (Praxisprojekt)
  • Wissenschaftliches Seminar

Wintersemester 2019/20

• Forschungssemester am CERN in Genf in der Abteilung Machine Protection and Electrical Integrity (TE-MPE)
  • Analyse von Messdaten von 600A Energy Extraction Switches mit Machine Learning
  • Analyse von Zeitseriendaten einer Fehlerdatenbank (Laser DB) mit explainable Artificial Intelligence

• Artificial Intelligence
  • Analyse von Sensordaten für Predictive Maintenance mit Machine Learning
  • Analyse von Time Series Data mit Deep Learning und explainable Artificial Intelligence
  • Lernen auf unbalancierten Daten und im Few Data Limit
  • Erklärbarkeit und Interpretierbarkeit von Vorhersagen künstlicher Intelligenz
• Mobilfunknetze der 5ten Generation
  • Antennentechnik massive MIMO
  • Beamforming, dynamisches Nachführen, Positionsgenauigkeit
  • Integrated Access & Backhaul (IAB) Channel
• Internet of Things
  • Adhoc Netzwerke
  • Protokolle
  • Edge Computing

• "Chat with your own Code" (Masterthesis ggf. Bachelorarbeit): Large Language Models (LLMs) finden zunehmend Verbreitung als Werkzeuge zur Unterstützung von vielen Arbeitsgebieten und haben so auch in der Software Entwicklung Einzug gehalten. Im Rahmen dieser Arbeit soll untersucht werden, wie die Software Entwicklung mit LLMs unterstützt werden kann. Hierzu soll ein LLM für Coding (z.B. Code LLama oder Starcoder) als Tool eingesetzt werden, um mit eigenem Code im privaten Repository GitLab (code.fbi.h-da.de) zu kommunizieren und zu interagieren. Mögliche Usecases sind dabei die Erklärung des vorhandenen Codes sowie die Weiterentwicklung aufgrund von kontextspezifischen Anforderungen (Prompts), genauso wie die Erstellung von Testcases und Dokumentation zum Code.

• Anomaly Detection with Artificial Intelligence - Identification of pre-cursors of interturn shorts in the LHC’s superconducting dipole magnets (Masterthesis):
  The LHC has just come out of a long shutdown period and nearly finished an intense training campaign of the superconducting magnet circuits, with several hundred quenches in the main dipole circuit. This thesis will examine recorded data from the dipole training quenches, clean them, sort them and prepare datasets. The data will be used for training and testing of different machine learning algorithms to identify anomalies, which can lead to magnet failures. The results of the different algorithms will be compared to previous work and the differences are to be discussed. 
  This thesis is supervised in cooperation with Dr. Christoph Wiesner and Dr. Daniel Wollmann from the section Controls and Beam Studies for Protection at CERN Geneva, Switzerland.

• Anomaly Detection with Artificial Intelligence - Post-mortem analysis of LHC ion beam losses during high-energy beam dumps (Masterthesis): 
  The LHC is one of the most sophisticated and biggest machines humankind has created. For prediction of potential issues, an analysis of beam losses that occur during the operation will be performed in this master’s thesis. Extensive time data series of all beam-loss monitors are available for the investigation of anomalies. For this purpose, the beam-loss data that is available in the so-called Post-Mortem system will be transfered and cleaned. Afterwards, a search for relevant beam-loss patterns will be performed and a search for anomalies is set up with applicable machine learning methods,
  This thesis is supervised in cooperation with Dr. Christoph Wiesner and Dr. Daniel Wollmann from the section Controls and Beam Studies for Protection at CERN Geneva, Switzerland.  

• Entwicklung eines Moduls zur Priorisierung von IP Verkehr in RDK-B (Bachelorarbeit): Der Referenz Data Kit Broadband (RDK-B) ist eine Open Source Initiative die Funktionalitäten zum effizienten Rollout von Services insbesondere auf Endkundenroutern unterstützt. Mit ihm etabliert sich ein universelles System für das Management der Heimnetze im Umfeld von Service Providern im Telco Bereich. Das RDK Konsortium spezifiziert dafür eine Referenzumgebung, auf der neue Komponenten entwickelt und getestet werden können. Eines der Referenzsystem dafür ist der Raspberry Pi4. Im Rahmen dieser Bachelorthesis soll eine RDK Komponente entwickelt werden, mit der eine Verkehrspriorisierung auf Endkunden Routern vorgenommen werden kann.
  Die Thesis wird in Kooperation mit der Firma Adiccon in Darmstadt betreut.

• Independent R&D Studies: Gerne betreue ich eine Independent R&D Studie  im Masterstudium zur Thematik Large Language Models oder Artificial Intelligence an.

Haben Sie an einem der Themen Interesse? Schreiben Sie mir eine Email, rufen Sie mich an oder schauen Sie einfach mal bei mir im Büro vorbei!

Sie haben einen eigenen Vorschlag für eine Bachelor- oder Masterthesis oder eine Independent R& Studie aus der Thematik künstliche Intelligenz? ⇒ Nehmen Sie gerne hierzu mit mir Kontakt auf!

Masterarbeiten

• Anomaly Detection with Artificial Intelligence: Post-mortem analysis of LHC ion beam losses during high-energy beam dumps - Thorsten Schumacher (Sommersemester 2023)
  Beam dumps and anomalies of ion beams at the Large Hadron Collider at CERN were analyzed an classified with two models: one trained on proton data and another trained on Pb ion data. Based on statistical analysis, linear and three polynomial regression models are developed and thresholds derived. The linear ion model achieves an accuracy of 93.75 % for the classification of ion dumps, while the proton model achieves 79.17 % for the same task. However, there are no differences in the classification of known anomalies such as asynchronous dump tests and 10 Hz dumps. The derived thresholds were implemented in the beam interloc systems at CERN afterwards. The thesis is available here.
• Realisierung eines Deep Reinforcement Learning Agenten für das Kartenspiel Wizard - Lukas Markert (Wintersemeter 2022/23)
  Das Deep Reinforcement Learning Verfahren Categorical Deep Q-Network wird verwendet, um einen intelligenten Agenten für das Spiel Wizard zu implementieren und zu trainieren. Durch die sogenannte Self-Play Methodik erlernt der Agent das Spiel, indem er gegen sich selbst spielt. Die Spielstärke des implementierten Agenten wird untersucht, indem der Agent gegen ältere Versionen von sich selbst und gegen
  echte Menschen antritt, um zu überprüfen, ob ein Categorical Deep Q-Network
  Algorithmus ausreicht, um einen intelligenten Wizard-Agenten umzusetzen.
• Detection of Instabilities in Ion Sources with Machine Learning - Simon Kundrat (Wintersemester 2021/22)
  The isotope ⁴⁸Ca is a workhorse for heavy ion production in particle accelerators. The condition for stabile beam production of this isotope in a microwave ion source was examined based on multivariate data sets monitoring different parameters. The data was first analyzed and labeled by experts and afterwards examined with various supervised machine learning techniques to detect anomalies and instabilities in beam production. 
• Erkennung von Zaubersprüchen aus moderner Fantasy-Literatur mittels eines Transformer-Modells - Marcel Moravek (Wintersemester 2021/22)
  In der Fantasy Literatur zeichnen sich Zaubersprüche durch einen besondereren Gebrauch der Sprache in einem entsprechenden Kontext aus, um eine übernatürliche oder magische Wirkung zu erzielen. Es wurde untersucht, wie gut state-of-the-art Techniken des Natural Language Processing (NLP) dazu in der Lage sind, Zaubersprüche in einem Text zu erkennen. Das vortrainierte Transformer Modell BERT (Bidirectional Encoder Representations from Transformer) wurde hierzu mit Zaubesprüchen aus den Harry Potter Bänden eins bis sechs nachtrainiert und anschließend zur Identifikation von Zaubern im siebten Band herangezogen.
  Aus dieser Arbeit ging bislang eine Veröffentlichung auf arxiv.org hervor: Detecting Spells in Fantasy Literature with a Transformer Based Artificial Intelligence
• Kundenakquise mittels Sammlung öffentlicher Unternehmensdaten und Klassifikation mit Machine Learning - Pavel Efremov (Sommersemester 2021)
  Daten verschiedener Unternehmen werden über das Crawling von Unternehmenswebsites, Aggregation von öffentlichen Daten und Abfragen kommerzieller API-Endpunkte gesammelt. Anschließend werden die Daten mittels fünf verschiedener maschineller Lernalgorithmen untersucht und evaluiert, um potenzielle Neukunden zu identifizieren.
• Evaluation von Prognosemodellen für die Kapazitätsplanung eines Fuhrpark-Dienstleisters - Oliver Kurtz (Sommesemester 2021)
  Vorhersage des Bedarfs eines Fuhrpark-Unternehmens mit Hilfe von Machine Learning Algorithmen. Dazu wird ein SARIMA-Modell, ein Prophet-Modell sowie ein LSTM trainiert und dazu verwendet, die Nachfrage der nachfolgenden 18 Monate vorherzusagen und mit den Prognosen eines menschlichen Planers zu vergleichen. Es zeigt sich, dass das SARIMA-Modell die besten Vorhersagen liefert und teilweise in seiner Genauigkeit auch den menschlichen Planer schlägt.

Bachelorarbeiten

• Evaluation of Deep Learning for Road Condition Classification - Dustin Eisenhardt (Wintersemester 2021/22)
  Adverse road conditions cause a significant contribution to many traffic accidents. Therefore it is essential for driver assistance systems to identify critical conditions at least in real time or better in advance. For this task pictures of an onboard camera of a car were analyzed by three different residual neural network architectures with the aim to classify road conditions as dry, moist, wet and snow. Results show that the winning MobileNetV3 can classify pictures with an accuracy comparable to human drivers.
• Anomalieerkennung aus Videodaten von Fahrszenen - Max Vissing (Wintersemester 2020)
  In Videos aus Fahrszenen werden mit Hilfe von künstlicher Intelligenz Anomalien erkannt und vorhergesagt. Dabei wird aus einer kurzen Videosequenz vorhergesagt, ob und wann in der nahen Zukunft ein Fahrzeug anhalten wird. Die Vorhersage erfolgt mittels eines tiefen neuronalen Netzes mit einer ResNet Architektur.
• Anomalieerkennung in Logdaten mithilfe von Informationsgehalt und Entropie - Jan Philipp Poulet (Wintersemester 2020/21)
  Mithilfe von Informationsgehalt und Entropie werden Merkmale zur Anomalieerkennung generiert, auf ihre Eigenschaften untersucht und diese mit den unüberwachten maschinellen Lernmethoden k-Means, Local Outlier Factor und Isolation Forest evaluiert. Es zeigt sich, dass verschiedene Anomalien erkannt werden können und eine zufällige Auswahl in der Regel deutlich übertreffen. 
• Monitoring und Steuerung von Energieflüssen in einer Modellfabrik - Vladislav Spitsyn (Sommersemester 2019)
  Konzeption und Aufbau einer echtzeitfähigen Big Data-Plattform zur Verarbeitung einer großen Menge an Sensordaten aus der ETA Modellfabrik der TU Darmstadt. Neben der Akquise großer Datenmengen werden Algorithmen des maschinellen Lernens in die Software-Architektur integriert um anhand von Sensordaten zukünftige Lastsituationen der Modellfabrik zu prognostizieren. 
• Integration der IBM Watson KI zur Verbesserung des Matching-Algorithmus in ein Jobportal - Vedat Dündar (Wintersemester 2018/19)
  Integration der IBM Watson KI in eine E-Recruiting Software mit dem Ziel ein weiteres Kriterium für den Matching-Algorithmus von Bewerbern zu generieren. Der Matching-Algorithmus vergleicht die Eigenschaften eines Bewerberprofils mit den Eigenschaften einer Vakanz und bewertet, wie passend ein Bewerber zu einer Vakanz ist.

Motivation
Small computers and edge devices, such as the Raspberry Pi, are becoming increasingly powerful. Thus, they already qualify for the intelligent processing of data and control tasks at the network edge.
The type of data involved is as diverse as the underlaying problems themselves. It can be univariate and multivariate time series data of sensors as well as symbols or images of cameras to be recognized. The output of the artificial intelligence can be several kinds of control and regulation tasks.

Project Task
As part of the bachelor project system development in the summer semester, machine learning algorithms are to be investigated for their applicability and performance on a Raspberry Pi. For this purpose, different classical machine learning algorithms as well as different architectures of neural networks will be evaluated on small test problems. A performance comparison of the algorithms with desktop computers and the use of pre-trained models complete the evaluation.
The problems to be investigated in this project can be chosen in coordination with the project management. The goal of the project is a set of demonstrative showcases including documentation that can be used for teaching purposes with little hardware effort.

Requirements
You have a flair for mathematical problems and approaches to solving them. Programming experience in C++ and preferably Python are as natural for you as clean documentation and versioning of your projects. You are communicative and enjoy working in a team.The documentation will be realized by means of an open book project and a Github repository. The project language will be English.

Literature
[1] Donald J. Norris, Beginning Artificial Intelligence with the Raspberry Pi, Springer, 2017, Beginning Artificial Intelligence with the Raspberry Pi | SpringerLink
[2] K. Mohaideen Abdul Kadhar, G. Anand, Data Science with Raspberry Pi - Real-Time Applications Using a Localized Cloud, Springer 2021, Data Science with Raspberry Pi | SpringerLink
[3] Jeff Cicolani, Beginning Robotics with Raspberry Pi and Arduino - Using Python and OpenCV, Springer 2021, Beginning Robotics with Raspberry Pi and Arduino | SpringerLink
[4] Ashwin Pajankar, Raspberry Pi Image Processing Programming - Develop Real-Life Examples with Python, Pillow, and SciPy, Springer 2017, Raspberry Pi Image Processing Programming | SpringerLink
[5] Donald J. Norris, Machine Learning with the Raspberry Pi - Experiments with Data and Computer Vision, Springer 2020, Machine Learning with the Raspberry Pi | SpringerLink

• L.Felsberger, A. Apollonio, T. Cartier-Michaud, A. Müller, B. Todd und D. Kranzlmüller
  Explainable Deep Learning for Fault Prognostics in Complex Systems: A Particle Accelerator Use-Case, International Cross-Domain Conference for Machine Learning and Knowledge Extraction, 'CD-Make 2020' vom 25.-28.08.2020 in Dublin, (2020)
  doi: dx.doi.org/10.1007/2F978-3-030-57321-8_810
• I. Stepanets, G. Fokin und A. Müller, Beamforming Techniques Performance Evaluation for 5G massive MIMO Systems, Tagungsband der Konferenz ‘CERC 2019‘ vom 29.-30.03.2019 in Darmstadt, (2019).
• I. Stepanets, G. Fokin und A. Müller,
  Capacity estimation ways of massive MIMO systems,
  T•Comm – Telecommunications and transport, Volume 12, No 10, 64-69, (2018).
• D. Baums, A. Müller und H. Kaufer, Intelligente Netze verbinden Netze, Tagungsband der Konferenz 'Konvergenz in der Telekommunikation' vom 07.-08.11.2000 in Graz, ISBN 3-85133-021-8.