Fraunhofer-Institut für Techno- und Wirtschaftsmathematik ITWM
Cloud-, Edge- und Embedded-Lösungen setzen zunehmend auf Künstliche Intelligenz als zentrale Technologie, um Dienste zuverlässiger zu machen und die Nutzererfahrung zu verbessern. Die Einführung von KI am Netzwerkrand (Edge) ist jedoch anspruchsvoll, da Modelle gezielt auf die jeweilige Hardwareplattform zugeschnitten werden müssen. Herkömmliche Entwicklungsprozesse stoßen hier schnell an ihre Grenzen: Die manuelle Anpassung von Modellen ist aufwendig, schlecht skalierbar und führt zu langen Entwicklungszeiten.
Agentenbasierte Systeme haben in den vergangenen Jahren gezeigt, dass sich Entwicklungsprozesse durch die Automatisierung von Entwurfs- und Testzyklen deutlich beschleunigen lassen. Solche KI-Systeme lösen komplexe Aufgaben zuverlässig, indem sie mit externen Tools und Testumgebungen interagieren. Gleichzeitig kommunizieren sie in natürlicher Sprache mit den Nutzenden und erklären Ergebnisse verständlich und transparent. Dadurch können auch Anwenderinnen und Anwender ohne tiefgehende Expertise komplexe Technologien effektiv nutzen.
NASE ist ein agentenbasiertes KI-System, das die Ausführung von KI-Modellen auf Edge- und Embedded-Plattformen gezielt hardwarebewusst optimiert. Es unterstützt Nutzende dabei, relevante Optimierungskriterien festzulegen und die am besten geeigneten Modelle für die jeweilige Anwendung und Zielplattform zu identifizieren. NASE entwirft, entwickelt und stellt Modelle direkt auf der Zielhardware bereit und überprüft deren Performance anhand realer Messdaten. Auf diese Weise lassen sich Entwicklungszeiten von mehreren Monaten auf wenige Wochen reduzieren – bei gleichzeitig höherer Modellqualität im Vergleich zu manuellen Designprozessen.
