Optimierung Ihrer neuronalen Netzwerkarchitektur

Wir unterstützen Sie beim Design und Integration Ihres optimalen, individuellen neuronalen Netzes.

KI-Services: Neural Architecture Search as a Service

NASaaS: Mehrdimensionale Optimierung neuronaler Netzarchitekturen

Datenmengen nehmen ständig zu, und viele Unternehmen wissen bereits um den hohen wirtschaftlichen Wert der darin verborgenen Informationen. Insbesondere Edge Devices wie z. B. Mobiltelefone und Fahrzeuge produzieren mit ihrer großen Anzahl an Sensoren immer mehr Daten, die ein großes Innovationspotential bieten.

Eine Hürde dabei ist, dass die Daten häufig in Echtzeit vor Ort ausgewertet werden müssen; der Rechenaufwand dafür ist allerdings meist enorm. Es muss deshalb nach effizienten Lösungen gesucht werden. Effizienz kann dabei Geschwindigkeit, Stromverbrauch, Modellgröße und vieles mehr bedeuten.

Einer der schwierigsten und zeitaufwendigsten Aspekte ist der Entwurf einer optimalen neuronalen Netzarchitektur, die alle Kriterien erfüllt. Um solche optimalen Architekturen zu erstellen, braucht es Wissenschaftler*innen mit großem Erfahrungsschatz.

Effizienz beginnt beim Algorithmus

Für uns beginnt Effizienz schon beim Algorithmus. Wir nutzen modernste Verfahren der automatischen neuronalen Netzwerksuche, die Netzwerke liefern, welche effizient hinsichtlich vieler Aspekte gleichzeitig sein können. Unsere Suche ist in der Lage, Eigenheiten der zugrundeliegenden Plattform zu beachten und in das Netzwerkdesign aufzunehmen. Der Algorithmus passt sich der Hardware an.

Wir bieten Ihnen unsere Technologie und Rechenkapazitäten und finden gemeinsam mit Ihnen eine optimale, individuelle neuronale Architektur, die Ihren Anforderungen entspricht. Sie liefern uns Ihre Datensätze, und wir suchen mithilfe unserer Supercomputer und unseres Frameworks automatisiert nach dem besten Modell. Sie können das Netzwerk anschließend direkt für Ihre Aufgaben einsetzen. Falls schon Netzwerke vorhanden sind, können wir diese als Startpunkt nutzen sowie Teile der Architektur per Hand designen.

Wir benötigen

  • einen gelabelten Datensatz
  • Ihre Anforderungen an Genauigkeit, Geschwindigkeit der Klassifikation, Speicherverbrauch etc.

Sie erhalten

  • pareto-optimale Netzwerke bezüglich mehrerer gewünschter Kriterien wie Erkennungsrate, Fehlalarmrate, Geschwindigkeit, Anzahl der Parameter, Speicherverbrauch, Anzahl der Schichten etc.
  • eine optimale Nutzung der Rechenresourcen auf Ihrer Zielplatform. Dafür nutzen wir Methoden wie Quantisierung, Pruning und weitere
  • individuelle Beratung und Integrationsunterstützung
NAS-Schema
© Fraunhofer ITWM
Schema KI-Services: Neural Architecture Search as a Service

Unser gemeinsamer Arbeitsprozess in drei Schritten

  1. Um sicherzustellen, dass wir zufriedenstellende Ergebnisse liefern können, stecken wir mit Ihnen zunächst in einem Briefing-Meeting die Ziele genau ab und besprechen den verfügbaren Datensatz.
  2. Wenn wir zu dem Schluss kommen, dass wir liefern können, beginnen wir in Schritt zwei mit dem Suchprozess. Gemeinsam diskutieren wir anschließend die verschiedenen Ergebnisse. 
  3. Im letzten Schritt unterstützen wir Sie bei der Integration des neuronalen Netzes.
Kundenspezifisches Hardware-Design: Zusammen mit unseren Partnern bieten wir auf Wunsch auch vollständige kundenspezifische Hardware-Designs (FPGA, ASIC), die auf Ihre neuronale Netzwerkarchitektur und Ihre Anforderungen angepasst sind. Bei Interesse kontaktieren Sie uns gerne.

Best Practice in der Anwendung:
Optimierung der neuronalen Architektur für die EKG-Datenanalyse auf eingebetteten Plattformen

Zur Erkennung von Vorhofflimmern in 2-Kanal-EKG-Daten entwickelten wir manuell eine Netzwerktopologie mit 72K-Parametern, welche die Kriterien von >90 Prozent Detektionsrate und <20 Prozent Fehlalarmrate einhält. Mit dem Ziel, auf eingebetteten Geräten zu laufen, war der geringste Speicherverbrauch und die geringste Rechenleistung gefragt. Dies schlägt sich direkt in einem geringeren Energieverbrauch und damit in einer längeren Batterielebensdauer nieder. Mithilfe des Fraunhofer-Frameworks zur automatisierten Topologiesuche reduzierten wir die Anzahl der Parameter innerhalb unserer Designziele auf etwa 6K-Parameter – eine 12-fache Reduzierung.