Maschinelles Lernen für eingebettete Systeme

Der allgemeine Trend im Bereich künstlicher Intelligenz geht in den letzten Jahren zu immer größeren und performanteren Modellen. Insbesondere bei neuronalen Netzen steigt die Anzahl der Schichten und der Gewichte explosionsartig an. Dies steht im direkten Zusammenhang mit der Etablierung der Deep Neural Networks. Aber ist größer automatisch immer besser? Die Größe der neuronalen Netze verlangt nach immer größerer, energiehungrigerer und teurerer Hardware. Um Ressourcen und das Klima zu schonen, entwickelt das Fraunhofer IMS Methoden des maschinellen Lernens, die direkt auf den Smarten Sensoren funktionieren. Dies umfasst sowohl die Inferenz als auch das eigentliche Lernen.

Um auf sehr kleinen eingebetteten Systemen, wie z. B. einem 8-Bit Mikrocontroller, ein Online-Training zu ermöglichen, sind neue Konzepte notwendig: Man spricht von Verteiltem Lernen. Ein Mikrokontroller allein ist dabei nicht in der Lage, den kompletten Lernprozess vollends eigenständig zu realisieren. Allerdings sind die einzelnen Embedded Systeme durch die Vernetzung in der Lage, gemeinsam diese Aufgabe zu bewältigen. Die Verteilung der Ressourcen für maschinelles Lernen wird dabei entlang von Klassen, Schichten und Daten vorgenommen. Das Fraunhofer IMS forscht daran, Methoden des verteilten Lernens automatisiert für verschiedenste Embedded Systeme zu realisieren. Dabei kommt auch das selbst entwickelte KI-Framework AIfES zum Einsatz.

Ein weiterer Forschungsschwerpunkt des IMS stellt die intelligente Merkmalsextraktion für Smarte Sensoren dar. Tiefe neuronale Netze besitzen zwar bereits eine inkludierte Merkmalserfassung, allerdings geht dies auf Kosten der Größe, sodass sie auf kleinen Embedded Systemen nicht einsetzbar sind. Mittels eigens auf das jeweilige Problem angepasster Merkmalsextraktion kann die Netzgröße so minimal wie möglich belassen werden bei gleichzeitiger höchstmöglicher Genauigkeit. Diese Konzepte wurden bereits umgesetzt bei LiDAR-Sensoren und zur Erkennung von Vorhofflimmern in EGK-Signalen.

Maschinelles Lernen benötigt stets Daten, welche die Anforderungen im Anwendungsfall möglichst realistisch abbilden. Allerdings existieren für längst nicht alle Anwendungen ausreichende oder qualitativ hochwertige Daten. Eine Lösung kann die Nutzung von synthetischen Daten zum Anlernen sein. Um möglichst realistische synthetische Daten in den Lernprozessen einsetzen können, setzt das Fraunhofer IMS hybride Modelle in Form von Physics Guided Neural Networks (PGNNs) ein. Damit werden die Welten der Simulation und des maschinellen Lernens fusioniert.

Das Fraunhofer IMS forscht nicht nur auf dem Feld der überwachten Lernverfahren, sondern auch im Bereich der unüberwachten Lernverfahren. Ein Anwendungsbeispiel dafür ist Nonintrusive Load Monitoring (NILM). Ziel ist es dabei, den gerätespezifischen Energieverbrauch zu messen, ohne das Messsystem zu beeinflussen. Einsatzmöglichkeiten ergeben sich für Condition Monitoring und Predictive Maintenance.