Das Marktpotenzial von Embedded-KI ist enorm – mitverursacht durch Trends wie (I)IoT, entsprechende Connectivity, Security und Cloud Services. Allied Analytics schätzt den KI-Halbleitermarkt im Jahre 2030 auf über 190 Milliarden US-Dollar Volumen. Zum Vergleich: Das Wachstum des AI-as-a-Service-(Cloud-)Marktes wird auf fast 44 Milliarden US-Dollar im gleichen Zeitraum geschätzt. Embedded-KI ist erst am Anfang seines Entfaltungspotenzials, sodass dies aktuell jedem Produkt einen Unique Selling Point (USP) verpasst.
In der Praxis lässt sich Embedded-KI in drei wesentliche Einsatzgruppen aufteilen: funktionale Innovationen, User Interaction und Predictive/Preventive Maintenance. Ersteres ermöglicht neuartige Funktionen, die den Zielnutzen eines Produkts oder Prozesses optimieren oder gar verändern. Als zusätzliches, sich daraus ergebendes Feld wird User Interaction ausgelagert. Diese erstreckt sich von einfacher Sprach-Befehlseingabe (das heißt KWS, Keyword Spotting) über Gestenerkennung bis hin zu komplexeren Mensch-Maschine-Kollaborationen wie Bedienertracking, Augentracking oder Werkstückerfassung. Als wohl größte „hidden needs“ vieler Produkthersteller sind aktuell die typischen Wartungsthemen wie die vorausschauende Wartung oder vorbeugende Wartung anzusehen, die über einfaches Condition Monitoring hinausgehen und wirklich frühzeitige und intelligente Vorhersagen über konkrete Fehlerbilder liefern.
„Die meisten Unternehmen wissen oft gar nicht, was in ihren Produkten für Möglichkeiten stecken“, erklärt Viacheslav Gromov, Geschäftsführer des Embedded-KI-Anbieters Aitad. „Wir haben ein Labor, in denen wir mit modernster Technik Daten sammeln, aber auch in wenigen Stunden Hardware produzieren und für die Serie testen können. Von der Vielzahl der Möglichkeiten, Embedded-KI zu integrieren, sind die meisten unserer Kunden sichtlich überrascht. In den Kunden-Prototypen kommen aber nur die Komponenten, die den größtmöglichen Nutzen für den Kunden und Anwender haben. Der Embedded-KI-Markt ist teilweise noch sehr undurchsichtig. Hier braucht es definitiv noch mehr Aufklärungsbedarf – vom Management bis hin zu den Entwicklern.“
Embedded-KI hat Potenzial
Cloud-KI allein ist nur ein Übergang, die Zukunft liegt bei dezentraler Verarbeitung, ist sich Gromov sicher: „Wir arbeiten am Sensor auf der Platine mit derart großen Datenmengen, dass wir sie gar nicht weiter übertragen könnten. Die KI muss sie direkt vor Ort weiterverarbeiten und verwerfen, um die gewollten, tiefgehenden Zusammenhänge aufzuspüren.“
Mit Embedded-KI wird die lokale Verarbeitung großer Datenmengen ermöglicht, sodass das Risiko des Abfangens oder Manipulieren von sensiblen Daten verringert wird. Das führt zu einer höheren Daten- und Systemsicherheit. Ein Gerät muss keine performante Netzwerkinfrastruktur vorhalten, um Daten verarbeiten zu können. Somit ist eine geringere Konnektivität erforderlich, was die Produktionskosten reduziert. Embedded-KI lebt auf beschränkten Ressourcen, was Stromversorgung (auch Batteriebetrieb), Rechen- und Speicherleistung angeht. Solche Komponenten erfassen und verarbeiten die Daten sofort, und können darauf in Millisekunden reagieren, was bei vielen Anwendungen ein Muss ist. Ebenso kann das Gerät Daten in Echtzeit analysieren und überträgt nur das, was für die weitere Analyse in der Cloud relevant ist (Stichwort: Datenmengen reduzieren).
Individuelle Entwicklung entscheidend
Der Embedded-KI-Markt ist noch weitgehend unbesetzt, wobei immer mehr Insellösungen oder niederschwellige Angebote hinzukommen. Spezifische Lösungen (oft auch closed-source) können im Einzelfall und wenn die Integration frühzeitig erfolgt, durchaus ein Gewinn fürs Unternehmen sein. Niederschwellige Softwareangebote verschiedenster Halbleiterhersteller oder eher übergreifende Tools wie „Edge Impulse“ oder „NanoEdge AI“ sind ein Fluch und Segen zugleich: Sie kommen schnell zum Ergebnis (auch teilweise dank AutoML-Funktionalität, also automatisiertem Modell-Erstellungsprozess), die gesamte vom Verständnis des jeweiligen Entwicklers abhängige Entwicklungskette ist jedoch eingeschränkt.
Die Halbleiterindustrie bietet auch eine Reihe von auf Embedded-KI-Use-Cases wie zum Beispiel der Bildverarbeitung zugeschnittenen Chips, die performant und angepasst sind. Auch Aitad beteiligt sich an einigen Forschungsprogrammen und fördert diesen disruptiven Trend der Grundlagenforschung. Doch auch diese Diversifizierung des Hardwaremarktes bringt Verwirrung mit sich.
„Wir empfehlen Unternehmen ganz klar einen Ansatz weg von fertigen Insellösungen. Diese können nur begrenzt auf die Bedürfnisse angepasst werden, mit kleineren oder größeren Abstrichen. Individuelle Systemanfertigungen haben einen viel größeren Spielraum. Das heißt herauszufinden, welches KI-Modell ins Produkt passt, wie sie sich effektiv auf Hardware umsetzen lässt, dafür die entsprechenden Systemkomponenten anhand gesammelter und ausgewerteter Daten zu entwickeln, das Ganze anhand eines Prototyps umzusetzen und in Praxis zu testen," erklärt Gromov.
Das klingt am Anfang nach viel Aufwand. Wenn man sich aber anschaut, wie lange das Produkt auf dem Markt ist und welche Vorteile Unternehmen und Nutzer zum Beispiel im Bereich Preventive/Predictive Maintenance davon haben, dann lohnt sich die Investition auf jeden Fall,“ so Gromov weiter.
