Fraunhofer-Institut für Mikroelektronische Schaltungen und Systeme IMSKünstliche Intelligenz (KI) ist eine Schlüsseltechnologie mit großem Potenzial für die Steigerung von Produktivität und Effizienz. In der jüngeren Vergangenheit wurden mittels KI atemberaubende Ergebnisse im Bereich der Datenanalyse, Mustererkennung und auch der Synthese von Inhalten erzielt. Diese Hürden wurden zumeist mittels tiefer neuronaler Netze (Deep Neural Networks, DNN) genommen und mittels Verarbeitung gewaltiger Datenmengen (Big Data), was den Einsatz leistungsfähiger Rechner für die Berechnung erfordert. Dies steht aber im starken Kontrast zu einem Einsatz von KI in Sensoren, energiesparenden vernetzten Produkten und kostenoptimierten System. Der derzeit noch häufig angewendete Ansatz, die KI in die Cloud auszulagern, um dieses Problem zu umgehen, erfordert Kompromisse bezüglich Latenz und Echtzeitfähigkeit und birgt Risiken im Hinblick auf die Ausfallsicherheit und den Schutz sensibler, auch personenbezogener, Daten.
Industrial AI
Eingebettete künstliche Intelligenz für die Industrie. Selbstlernende Sensorsystemen und KI basierte Regelungen auf Basis plattformunabhängiger Embedded-KI Software oder spezialisierter KI-Hardware.
© Fraunhofer IMS
Industrial AI
Neben dem Bedarf an leistungsfähiger Hardware ist auch die Nachvollziehbarkeit der Entscheidungen, die von KI-Systemen getroffen werden, eine Herausforderung. DNN sind oft als Black-Boxes realisiert, bei denen die Funktion nicht mehr nachvollzogen werden kann. Bei selbstlernenden Systemen wurden sie ebenfalls oft nicht in dem Zusammenhang trainiert, in dem sie angewendet werden. Für den zuverlässigen Einsatz im industriellen Umfeld ist aber gerade dies eine wesentliche Forderung. Das Programm Industrial-AI des Fraunhofer IMS beschäftigt sich mit der praktischen Anwendung von eingebetteter KI für die Produktverbesserung, Kostenreduzierung, Standortoptimierung, prädiktive Analyse und Erkenntnisgewinnung im industriellen Kontext.
Auf Basis unserer Hard- und Softwaretechnologien für KI entwickeln wir am Fraunhofer IMS intelligente Sensorsysteme mit KI-gestützter Datenverarbeitung direkt im Sensor. Dies ermöglicht sichere und echtzeitfähige Sensorsysteme mit hoher Ausfallsicherheit und stark reduzierten Anforderungen an die Kommunikationsinfrastruktur.
Das am Fraunhofer IMS entwickelte KI-Softwareframework AIfES (Artificial Intelligence for Embedded Systems) ermöglicht die einfache Umsetzung künstlicher neuronaler Netze (KNN) auf nahezu jeder Hardwareplattform, vom kleinen 8-Bit Mikrocontroller bis hin zu leistungsfähigen Steuerungen und PCs. Durch eine vollständige Implementierung in der Programmiersprache ANSI-C wird eine maximale Kompatibilität bzgl. Compilern und Laufzeitumgebungen erreicht. Sämtliche Freiheitsgrade eines KNN (künstliches neuronales Netz) sind einstellbar und es ist möglich, zur Laufzeit neue KNNs dynamisch nachzuladen. Ein Gerät kann somit mehrere Aufgaben erfüllen, indem es jeweils ein passendes KNN nachlädt und ausführt. Eine Besonderheit von AIfES sind die speziell für ressourcenbegrenzte Systeme optimierten Implementierungen von Trainingsalgorithmen wie ADAM oder Backpropagation. Diese Optimierungen ermöglichen es, ein KNN direkt auf einem Mikrokontroller zu trainieren. Dadurch wird ein hohes Datenschutzniveau erreicht und eine echtzeitfähige Datenverarbeitung ermöglicht, da keine Anbindung an eine Cloud benötigt wird.
AIfES ermöglicht den Import von trainierten KNN-Modellen aus TensorFlow® und PyTorch® und auch ein Nachtrainieren dieser Modelle innerhalb von AIfES. Es werden alle gängigen Netztypen unterstützt und AIfES bietet zudem Features wie Gewichtsquantisierung und einen Fixed-Point-Modus für Mikrocontroller, die über keine effiziente Gleitkomma-Arithmetik verfügen. Darüber hinaus wurde AIfES auch für die Verwendung von Hardwarebeschleunigern optimiert, wie sie in einigen Mikrocontrollern, beispielsweise der ARM Cortex Familie, verfügbar sind.
Durch unsere einzigartigen Techniken in der Merkmalsextraktion realisieren wir besonders kleine und effiziente KNNs. Wir nutzen unsere langjährige Erfahrung in der Signalverarbeitung, um nur die nötigsten Merkmale aus einem Signal an die KI weiterzugeben und somit besonders kompakte Implementierungen zu erzielen, mit entsprechenden Vorteilen hinsichtlich der Verarbeitungszeit und des Energieverbrauchs. Darüber hinaus kombinieren wir Expertenwissen mit Machine-Learning, um die Black-Box einer reinen KI Lösung in eine sogenannte Grey-Box zu wandeln, welche deutlich verständlicher arbeitet. Bei diesem Prozess wird das in der Regel beim Kunden vorhandene anwendungsspezifische Wissen um physikalische Zusammenhänge und Erfahrungswerte in den Entwurf der KI-Lösung eingebracht. AIfES in Verbindung mit unserem Know-How in der Merkmalsextraktion ist bereits in vielen Industrie-Projekten und in den unterschiedlichsten Anwendungsbereichen zum Einsatz gekommen.
Von HMI-Anwendungen wie einer robusten Handschrift- oder Gestenerkennung, bis hin zu einer kamerabasierten hochintegrierten Menschenerkennung. Darüber hinaus wurde AIfES auch direkt in Sensoren integriert, um das Messergebnis zu verbessern oder Querempfindlichkeiten in der Messung auszugleichen.
Neben einer reinen Softwarelösung mit AIfES, welche auf praktisch jeder Hardware zum Einsatz kommen kann, bietet das Fraunhofer IMS auch spezialisierte und optimierte Hardwarelösungen an, um KI-Implementierungen besonders effizient umsetzen zu können. Für Anwendungen, die eine echtzeitnahe und vertrauenswürdige Integration von KI benötigen, bietet das Fraunhofer IMS mit AIRISC einen Mikrocontroller-Kern auf Basis der freien RISC-V Befehlssatz-Architektur, der im Rahmen eines Hardware/Software-Co-Designs für maximale Effizienz beim Einsatz von AIfES optimiert wurde. Der Kern kann für kostengetriebene Produkte direkt in Sensor-ASICs integriert werden, steht jedoch für flexible FPGA-basierte Designs auch als Softcore zur Verfügung. Für die FPGA-Implementierung liefert das Fraunhofer IMS Referenzdesigns mit besonderen Features, wie einer dynamischen Rekonfigurierung, welche das dynamische Nachladen von Signalverarbeitungsblöcken und KI-Elementen und damit den Einsatz kostengünstiger FPGAs ermöglicht.
Das Fraunhofer IMS bietet Ihnen eine Vielzahl von unterschiedlichen Dienstleistungen im Bereich der KI. Wenn Sie noch keine Erfahrungen im KI Umfeld gesammelt haben, unterstützten wir Sie von der ersten Idee bis hin zur Umsetzung in einem Demonstrator. Wir beraten Sie hier gern und zeigen Ihnen Wege auf, wie KI Ihre Produkte verbessern kann. Auch Kunden mit bereits fundierten KI Erfahrungen profitieren von unseren Tools und Werkzeugen, die sich leicht in bestehende Entwicklungsprozesse integrieren lassen.
Unsere Anwendungen – Beispiele was wir für Sie tun können:
Machine Learning für Sensoren
Mikrocontroller sind in fast jedem technischen Gerät verbaut – von der Waschmaschine über das Blutdruckmessgerät bis hin zu Wearables. Mit AIfES haben Forscherinnen und Forscher am Fraunhofer-Institut für Mikroelektronische Schaltungen und Systeme IMS eine Künstliche Intelligenz (KI) für Mikrocontroller und Sensoren entwickelt, die ein voll konfigurierbares künstliches neuronales Netz umfasst. AIfES ist eine plattformunabhängige Machine-Learning-Bibliothek, mit der sich selbstlernende Kleinstelektroniken realisieren lassen, die keine Anbindung an eine Cloud oder leistungsfähige Computer erfordern. Die sensornahe KI unterstützt die Handschriften- und Gestenerkennung. Läuft die Bibliothek etwa auf einem Wearable, so lässt sich die Eingabe per Geste steuern.
Machine Learning für Sensoren - Fraunhofer IMS
Vertrauenswürdige eingebettete KI mit RISC-V
Das Fraunhofer-Institut für Mikroelektronische Schaltungen und Systeme IMS hat auf RISC-V-Basis eine vertrauenswürdige eingebettete KI (Künstliche Intelligenz) entwickelt. Das Duisburger Forschungsinstitut erweitert mit dieser Entwicklung sein Angebot für Trusted Electronics.
Vertrauenswürdige eingebettete KI mit RISC-V - Fraunhofer IMS