Künstliche Intelligenz für kleine Geräte

Im Projekt HALF entwickeln wir energie-effiziente Hardware, die Künstliche Intelligenz zur Auswertung von Patientendaten auch auf mobilen Geräten ermöglicht.

Energieeffiziente Hardware für Künstliche Intelligenz

Das Ziel: Künstliche Intelligenz soll auf den kleinsten Geräten Platz finden

Insbesondere im medizinischem Bereich gibt es vielversprechende Anwendungen der Künstlichen Intelligenz (KI). So können KI-Systeme Ärztinnen und Ärzten bei der Diagnose unterstützen und für den Patienten oder die Patientin besser geeignete Medikamente empfehlen. Darüber hinaus gibt es schon länger tragbare Geräte, die den Gesundheitszustand eines Menschen aufzeichnen und überwachen können. Neu ist der Trend, die dafür notwendigen, komplizierten Teildiagnosen direkt auf dem Endgerät auszuführen, um einen kritischen Gesundheitszustand möglichst schnell detektieren zu können.

Ein populäres Beispiel für ein solches Gerät ist die Applewatch, welche in der Lage ist, ein EKG des Trägers aufzunehmen. Auf diese Weise kann das Gerät einen nahenden Herzinfakt detektieren und frühzeitig Alarm schlagen. Diese Technologie hat das Potential, Menschen das Leben zu retten.

Die Algorithmen zur Auswertung der Patientendaten können sehr rechenintensiv sein, was einen hohen Stromverbrauch zur Folge hat. Die Laufzeit und damit die Zuverlässigkeit eines mobilen Systems ist aber von dessen Energieverbrauch abhängig. Für mobile Anwendungen hat deswegen die energieeffiziente Ausführung der Auswertungsalgorithmen auf der Hardware höchste Priorität.

Der Wettbewerb: EKG-Daten sollen mit geringstem Energieverbrauch automatisch analysiert werden

Im Rahmen eines Pilotinnovationswettbewerbs des Bundesministeriums für Bildung und Forschung (BMBF) soll ein System zur zuverlässigen Detektion von Vorhofflimmern entwickelt werden, welches so energieeffizient wie möglich sein soll. Der Fokus liegt dabei auf der Hardware, die speziell für diese Aufgabe entwickelt werden soll. Als Hardwareplattform für diesen Wettbewerb sind sogenannte Field Programmable Gate Arrays (FPGA) vorgeschrieben. FPGAs sind spezielle Chips, deren Schaltkreise sich im Betrieb umkonfigurieren lassen und somit die schnelle Realisierung von beliebigen Schaltungen auf konkreter Hardware erlauben.

Das Fraunhofer ITWM wurde zusammen mit unserem Partner, dem Lehrstuhl Entwurf mikroelektronischer Systeme der TU Kaiserslautern, für die Teilnahme an diesem Wettbewerb ausgewählt.

Unser Ansatz: Energieeffiziente Hardware beginnt beim Algorithmus

Für diesen Wettbewerb wählen wir einen holistischen Ansatz, der die Anwendung und die Hardware zugleich betrachtet, und somit die optimale Ausführung eines optimalen Algorithmus erreicht. Der Projektname HALF – Holistisches AutoML für FPGAs – spiegelt den Kernaspekt unseres Ansatzes wider.

Eine wichtige Erkenntnis ist, dass das KI-Modell nicht nur über die Qualität der Detektion entscheidet, sondern auch ganz entscheidend den Energieverbrauch auf der Hardware. Statt uns nur auf die Hardware zu konzentrieren und auf bekannte KI-Modelle zurückzugreifen, nutzen wir modernste Verfahren, um automatisch nach KI-Modellen zu suchen. Dabei verbinden wir diese Suche mit hardwarespezifischen Kriterien, sodass wir optimale Modelle für die zugrundeliegende Hardwareplattform finden können.

Die Schwierigkeit besteht darin, eine Balance zwischen einem leichtgewichtigen und energieeffizienten Modell einerseits und dessen Zuverlässigkeit und Robustheit andererseits zu finden.

Die von uns entwickelten Software-Werkzeuge ermöglichen eine nahezu vollautomatische Suche nach dem besten Entwurf in einem mehrstufigem Prozess. Angefangen bei dem EKG-Datensatz, suchen sogenannte Auto-ML (Automated Machine Learning) Methoden nach dem besten Modell für die gegebenen Daten. Bei der Suche werden sowohl unwichtige Teile des Modells vermieden, als auch hardwarespezifische Kriterien, die den Energieverbrauch bestimmen, berücksichtigt. Für das so gefundene Modell wird ein optimaler Entwurf für die FPGA-Plattform generiert. Zum Schluss wird der FPGA konfiguriert und ist dann in der Lage, EKG-Daten automatisch auszuwerten.

Unser Projektpartner:

Der Lehrstuhl Entwurf mikroelektronischer Systeme der TU Kaiserslautern liefert das Know-How, um die KI-Modelle auf der Hardware abzubilden. Insbesondere werden die von der EMS-Gruppe entwickelten Verfahren zur Hardware-Architekturgenerierung benutzt, die das volle Potential der FPGA-Hardwareplattform ausnutzen können.