Föderiertes Lernen für ressourcenbegrenzte Systeme

Im Fraunhofer-weiten Projekt SEC-Learn (Sensor Edge Cloud für föderiertes Lernen) soll maßgeblich eruiert werden, welche Entwicklungen notwendig sind, damit das Training von neuronalen Netzen direkt am Sensor vorgenommen werden kann, aber gleichzeitig alle anderen Sensorknoten von dem Erlernten profitieren – dem sogenannten föderierten Lernen (Federated Learning). Bei lokaler Datenverarbeitung können Datenschutzanforderungen besser gewährleistet werden, was auch eine höhere Akzeptanz beim Anwender hervorrufen soll. Durch den Einsatz von Datenschutzverbessernden Technologien soll eine sichere Datenübertragung geschaffen werden.

Der Energieverbrauch, welcher für die fortlaufende Analyse der Daten mit KI aufgebracht wird, soll durch spiking neural networks (SNNs) reduziert werden. Diese werden Hardware-nah und energieeffizient ausgeführt. Hierfür müssen Methoden gefunden werden, welche die durch das föderierte Lernen entstandenen Modelle konvertieren und für die Zielhardware kompatibel machen.

Das Fraunhofer IMS entwickelt in diesem Verbundprojekt das föderierte Lernen für Mikrocontroller. Die Vision ist, dass Kleinstsysteme auf Basis von Mikrocontrollern zusammen ein künstliches neuronales Netz (KNN) trainieren können, wobei jedem Gerät nur einen Teil der Trainingsdaten zur Verfügung steht. Das fertig trainierte Modell soll abschließend auf alle Systeme verteilt und genutzt werden können. Dieses System besitzt verschiedene Vorteile. Der Energiebedarf wird auf die verschiedenen Systeme aufgeteilt und die Rechenleistung erhöht. Dies ermöglicht die effiziente Berechnung von neuronalen Netzen. Da keine Trainingsdaten ausgetauscht werden, wird auch der Datenschutz in vollem Umfang gewährleistet.

Ein weiterer Vorteil ist hierbei auch die dezentrale Datenaufnahme. So können z.B. mehrere intelligente Sensoren an verschiedenen Punkten einer Maschine Messwerte aufnehmen und gemeinsam ein höherwertiges KI Modell trainieren. Oder es können baugleiche Maschinen an unterschiedlichen Standorten vermessen werden, um abschließend ein verallgemeinertes Modell zu trainieren.

Die Kommunikation der unterschiedlichen Sensoren kann auf verschiedene Arten realisiert werden. Eine kabellose Kommunikation über eine geringe Distanz für den Einsatz an einer z.B. einer Maschine oder auch eine Anbindung über das Internet, falls verschiedene Geräte an unterschiedlichen Standorten vermessen werden sollen.

Als Basis für die Umsetzung wird das KI Softwareframework AIfES des Fraunhofer IMS genutzt, welches es ermöglicht KNNs auf Mikrocontrollern zu trainieren. Hier entstehen neue und kompatible Algorithmen, die ein föderiertes Lernen ermöglichen. Um das Training so effizient wie möglich durchführen zu können, wird der AIRI5C Mikrokontroller Kern des Fraunhofer IMS genutzt, welcher auf der offenen RISC-V Befehlssatzarchitektur basiert. Im Rahmen des Projektes entstehen hier spezielle Hardwarebeschleuniger für das effiziente Training.

Aufgabenbereich Fraunhofer IMS

• Entwicklung von Methoden des föderierten Lernens speziell für Mikrocontroller
• Realisierung des föderierten Lernens auf Basis des IMS AIRI5C und AIfES
• Entwicklung von AIRI5C Hardwarebeschleunigern für das effiziente Ausführen und trainieren von künstlichen neuronalen Netzen
• Integration der Methoden des föderierten Lernens in AIfES
• Aufbau eines funktionsfähigen Demonstrators, der das föderierte Lernen zeigt

Partner

Fraunhofer-Institute EMFT, IAIS, IESE, IGD, IIS, IKS, IDMT, IPMS, ISIT und ITWM

Förderer

Fraunhofer-internes Förderprogramm