Welcher Chip schafft es, in EKG-Daten Herzrhythmusstörungen und Vorhofflimmern mit mindestens 90 Prozent Genauigkeit zu erkennen und dabei am wenigsten Energie zu verbrauchen?
Das war die Aufgabe des Innovationswettbewerbs „Energieeffiziente KI-Systeme“ des Bundesforschungsministeriums (BMBF). Vier Sieger sind nun am 11. März 2021 von Bundesforschungsministerin Anja Karliczek ausgezeichnet worden, darunter ein KI-Chip des Fraunhofer-Instituts für Integrierte Schaltungen IIS und der Friedrich-Alexander-Universität Erlangen-Nürnberg. Neben dem im Wettbewerb vorgegebenen medizinischen Einsatzfeld lässt sich ihr Chip auch für andere Zwecke wie Anomalieerkennung oder Predictive Maintenance verwenden.
Signalverarbeitung schlafen gelegt
Entwickelt wurde der Chip im Projekt „Lo3-ML“ („Low-Power Low-Memory Low-Cost EKG-Signalanalyse mit ML-Algorithmen“) mit der Prämisse einer besonders energieeffizienten Verarbeitung von Zeitreihensignalen. Mittels Deep Learning kann er bei EKG-Signalen analysieren, ob ein Patient gesund ist oder an Herzvorhofflimmern leidet.
Der Clou dabei ist, dass ein Teil des Chips, nämlich die Signalverarbeitung, quasi „schläft“, solange sie nicht benötigt wird. Laut den Projektpartnern kann das bis zu 95 Prozent Energie einsparen. Die Schaltung ist dabei nicht für bei EKG-Messungen, sondern auch für andere Anwendungen nutzbar, bei denen Zeitreihensignale verarbeitet werden. Dazu gehören unter anderem Anomaliedetektion oder Predictive Maintenance.
Funktionsweise des Chips
Der KI-Chip verwendet abgesehen davon aber noch weitere energiesparende Konzepte. So reduziert sich etwa durch ein spezielles systolisches Array die zur Ablaufsteuerung benötigte Energie stark. Es werden zudem nur die drei Gewichtswerte -1, 0 und +1 sowie Normierungen mit Zweierpotenzen verwendet, was einerseits einen sehr flexiblen Algorithmus, andererseits eine effiziente Implementierung von Gewichtung beziehungsweise Normierung erlaubt.
Der Chip enthält nicht-flüchtige Speicher, sogenannte RRAMs, samt Ultra-Low-Power-Schaltungen zum Schreiben und Lesen, die genau diese ternären Werte sehr effizient speichern können. Die Speicher erlauben es, die Signalverarbeitung über lange Phasen schlafen zu legen, um keine Energie zu verbrauchen.
Bei typischen Signalbandbreiten im (Sub-)kHz-Bereich fließen Daten nämlich viel langsamer in den Chip ein, als sie verarbeitet werden können. Das Aufsammeln dieser Daten durch einen „wachen“ Chip-Teil, während der KI-Algorithmus schläft, gefolgt vom Aufwecken und einer kurzen KI-Verarbeitung kann deshalb bis zu 95 Prozent der Energie sparen, verglichen mit einem Always-on-System. Durch die RRAMs stehen dabei alle Parameter sofort zur Verfügung.
Zusätzlich zur digitalen und analogen Schaltungsentwicklung und der ASIC-Implementierung haben die Projektpartner außerdem Wert auf eine Automatisierung des Entwurfsprozess gelegt, um den KI-Algorithmus und die Schaltung energetisch zu optimieren. Dazu gehören auch neu entwickelte Tools für Hardware-Aware-Training eines neuronalen Netzes, beispielsweise für die verwendete extreme Quantisierung. Dieser Prozess lässt sich ebenfalls für andere Probleme und Anwendungen einsetzen.
Führungsrolle beim praktischen KI-Einsatz
Der Wettbewerb „Energieeffiziente KI-Systeme“ dient als Ideenradar zur Gründung der Agentur für Sprunginnovationen; 27 Teams aus Hochschulen und Forschungseinrichtungen hatten sich zur Teilnahme beworben, elf wurden für die Finalrunde ausgewählt. Jedes Siegerprojekt bekommt als Preis die Möglichkeit, ein Forschungsprojekt zur Umsetzung seiner Idee mit Anwendungspartnern in Höhe von einer Million Euro einzureichen.
„Das ganze Team freut sich übermäßig“, sagen die Projektleiter Dr. Marco Breiling vom Fraunhofer IIS und Prof. Dietmer Fey von der Universität Erlangen-Nürnberg. Breiling ergänzt außerdem: „Das gewonnene Geld für das Nachfolgeprojekt wird uns einen weiteren Schub für die Entwicklung von neuromorpher Hardware im Rahmen unserer Next-Generation-Computing-Initiative geben. An unseren Standorten Erlangen und Dresden wollen wir dafür sorgen, dass Deutschland beim praktischen Einsatz von KI ganz vorne mitspielt.“
