Heute gibt es eine Vielzahl von Softwarelösungen für das maschinelle Lernen, doch diese sind in der Regel nur für den PC verfügbar und nutzen Python als Programmiersprache. Eine Lösung, die das Ausführen und Trainieren von neuronalen Netzen auch auf eingebetteten Systemen wie beispielsweise Mikrocontrollern ermöglicht, liegt aktuell nicht vor.
Es kann jedoch hilfreich sein, das Training direkt auf dem eingebetteten System durchzuführen – etwa wenn sich ein implantierter Sensor selbst kalibrieren soll. Die Vision ist eine sensornahe KI, die direkt in ein Sensorsystem integriert werden kann. Mit AIfES (Artificial Intelligence for Embedded Systems) hat ein Forscherteam am Fraunhofer IMS diese Vision umgesetzt und eine Machine-Learning-Bibliothek in der Programmiersprache C entwickelt, die auf Mikrocontrollern lauffähig ist, darüber hinaus aber auch andere Plattformen wie PC, Raspberry PI oder Android unterstützt.
Algorithmen sollen funktionale Zusammenhänge erlernen
Die Bibliothek umfasst aktuell ein voll konfigurierbares, künstliches neuronales Netz (KNN), das bei Bedarf auch tiefe Netze für das Deep Learning erzeugen kann. Ein KNN ist der Versuch, das menschliche Gehirn mit Algorithmen mathematisch nachzubilden, um funktionale Zusammenhänge für Algorithmen erlernbar zu machen.
AIfES wurde speziell für eingebettete Systeme optimiert. „Wir haben den Quellcode auf ein Minimum reduziert, dadurch lässt sich das KNN direkt auf dem Mikrocontroller oder auf dem Sensor, also dem eingebetteten System, trainieren“, sagt Dr. Pierre Gembaczka, wissenschaftlicher Mitarbeiter am Fraunhofer IMS. Der Quellcode sei außerdem universal gültig und lasse sich damit für nahezu jede Plattform kompilieren.
Gembaczka fährt fort: „Da immer die gleichen Algorithmen genutzt werden, ist ein KNN, das zum Beispiel auf dem PC erstellt wurde, einfach auf einen Mikrocontroller portierbar. Dies ist bislang mit kommerziell erhältlichen Softwarelösungen so noch nicht möglich.“
Schutz der Privatsphäre
Ein weiteres Alleinstellungsmerkmal der sensornahen KI des Fraunhofer IMS: Bislang werden Künstliche Intelligenz und neuronale Netze vor allem für Bildverarbeitung und Spracherkennung eingesetzt. Bei einigen Systemen verlassen die Daten die lokalen Systeme. In der Cloud, auf externen Servern, werden dann beispielsweise Stimmprofile verarbeitet, da die Rechenleistung der lokalen Systeme nicht immer ausreicht.
„Bei diesem Vorgang ist die Wahrung der Privatsphäre schwierig, zudem werden Unmengen an Daten übertragen. Wir wählen daher einen anderen Ansatz und gehen weg von maschinellen Lernverfahren in der Cloud hin zu maschinellen Lernverfahren direkt auf dem eingebetteten System“, sagt Burkhard Heidemann, Gruppenleiter Embedded Systems am Fraunhofer IMS. Da keine sensiblen Daten das System verlassen, lasse sich Datenschutz garantieren, die zu übertragene Datenmenge werde zudem deutlich reduziert.
„Natürlich können keine riesigen Deep-Learning-Modelle auf einem eingebetteten System realisiert werden, somit beschäftigen wir uns verstärkt mit der geschickten Merkmalsextraktion zur Reduktion der Eingangssignale“, verdeutlicht Heidemann. Indem die Forscher die KI direkt auf den Mikrocontroller bringen, lässt sich ein Gerät mit zusätzlichen Funktionen ausstatten, ohne dass teure Hardwareänderungen nötig sind.
Weg von Big Data
AIfES fokussiert sich nicht auf die Verarbeitung großer Datenmengen, vielmehr werden nur die erforderlichen Daten übertragen, um sehr kleine neuronale Netze aufzubauen. Gembaczka erläutert: „Wir folgen nicht dem Trend, der hin zur Verarbeitung von Big Data geht, sondern wir beschränken uns auf die absolut nötigen Daten und etablieren quasi eine Mikrointelligenz auf dem eingebetteten System, die die jeweiligen Aufgaben lösen kann.“
Für jedes Problem entwickelt AlfES neue Datenvorverarbeitungsstrategien und Merkmalsextraktionen, um möglichst kleine KNN realisieren zu können. „Dies gewährleistest dann auch ein nachträgliches Lernen auf dem Controller selbst“, so Gembaczka.
Demonstratoren zeigen Praxistauglichkeit
Mit mehreren Demonstratoren wurde dies bereits praktisch umgesetzt. So realisierte das Forscherteam eine Erkennung von handgeschriebenen Ziffern auf einem günstigen 8-Bit-Mikrocontroller (Arduino Uno). Dies war technisch nur möglich, da eine neuartige Merkmalsextraktion entwickelt wurde.
Ein weiterer Demonstrator kann komplexe Gesten erkennen, die in die Luft geschrieben werden. Die Wissenschaftler des IMS haben hierfür ein System, bestehend aus einem Mikrocontroller und einem absoluten Orientierungssensor entwickelt, das in die Luft geschriebene Zahlen erkennt. „Eine mögliche Anwendung hierfür wäre die Bedienung eines Wearables“, sagen die Forscher.
Damit diese Form der Kommunikation funktioniert, schreiben verschiedene Personen mehrfach die Ziffern von 0 bis 9. Das neuronale Netz erhält diese Trainingsdaten, lernt sie und identifiziert sie im nächsten Schritt selbstständig. Laut den Forschern seien dabei nahezu alle Figuren trainierbar, nicht nur Zahlen. Eine Steuerung des Geräts per Spracherkennung ist damit hinfällig, das Wearable ließe sich mit einer Geste steuern, die Privatsphäre bliebe geschützt.
Vielfältige Einsatzgebiete
Den Anwendungsmöglichkeiten von AIfES sind kaum Grenzen gesetzt: So könnte ein Armband mit integrierter Gestenerkennung etwa zur Beleuchtungssteuerung in Gebäuden genutzt werden. Aber nicht nur das Erkennen einer Geste ist möglich, sondern auch die Überwachung, wie gut eine Geste ausgeführt wurde.
Im Reha- oder Fitnessbereich könnte man Übungen und Bewegungsabläufe bewerten, wenn kein Trainer anwesend ist. Da keine Kamera oder Cloud genutzt wird, bleibt die Privatsphäre geschützt. Automotive, Medizin, Smart Home und Industrie 4.0 zählen damit alle zu möglichen Einsatzgebieten.
Weitere Vorteile von AIfES: Mit der Bibliothek lässt sich die Rechenleistung dezentralisieren, indem zum Beispiel kleine eingebettete Systeme die Daten vor der Verarbeitung übernehmen und einem höher geordneten System die Ergebnisse zur Verfügung stellen. Auf diese Weise reduziert sich die zu übertragende Datenmenge beträchtlich. Darüber hinaus ist ein Netzwerk aus kleinen lernfähigen Systemen realisierbar, die Aufgaben untereinander aufteilen.
Weitere Entwicklungen und Messe-Präsentation
AIfES enthält aktuell ein neuronales Netz mit einer sogenannten Feedforward-Struktur, das auch tiefe neuronale Netze ermöglicht. „Unsere Lösung ist so programmiert, dass wir mit einer einzigen Funktion ein komplettes Netz beschreiben können“, sagt Gembaczka. Die Integration weiterer Netzformen und Strukturen sind aktuell in der Entwicklung.
Außerdem entwickeln der Forscher und seine Kollegen neben weiteren Lernalgorithmen und Demonstratoren Hardwarekomponenten für neuronale Netze. Derzeit arbeitet das Fraunhofer IMS an einem RISC-V-Mikroprozessor, der einen Hardwarebeschleuniger speziell für neuronale Netze besitzen soll. AIfES wird in einer speziellen Version für diese Hardware optimiert, damit sich diese Ressource optimal nutzen lässt.
Vom 25. bis 27. Juni 2019 präsentiert das Forscherteam einen energieautarken Stromsensor mit integrierter KI auf der Messe Sensor+Test in Nürnberg.
