Fraunhofer-Institut für Techno- und Wirtschaftsmathematik ITWMVon der Software bis zur Ausführung auf der Hardware: Gemeinsam mit unseren Projektpartnern entwickeln wir im Projekt »OptimAIse« ein offenes europäisches Framework für Generative KI und Large Language Models. Damit schaffen wir die Grundlage, leistungsfähige, nachhaltige und vertrauenswürdige KI-Lösungen effizient zu entwickeln, bereitzustellen und zu betreiben.
Illustration eines transparenten Roboters auf einem leuchtenden Mikrochip, umgeben von einer dunklen Platine mit türkisen Leiterbahnen.
Wie lassen sich Generative KI und Large Language Models effizient, nachhaltig und vertrauenswürdig entwickeln und betreiben? Gemeinsam mit europäischen Partnern entwickelt wir im Projekt »OptimAIse« ein offenes Framework, das moderne KI-Software mit europäischer Hardware verbindet und so die digitale Souveränität Europas stärkt.
© iStockphoto
Europäisches Framework für vertrauenswürdige Generative Künstliche Intelligenz
Projekt »OptimAIse«: Generative KI, Large Language Models und europäische KI-Hardware
Generative KI (GenAI) und Large Language Models (LLMs) bilden heute die Grundlage vieler Anwendungen – von Websuchen über Coding-Assistenz bis hin zum Kundenservice. Bislang gibt es keine durchgängige offene Technologieplattform, mit der sich GenAI- und LLM-Anwendungen entwickeln, bereitstellen und betreiben lassen. Bestehende Cloud-Lösungen werden den besonderen Anforderungen von GenAI-Anwendungen oft nicht gerecht. Das macht das Bereitstellen und den Betrieb oft komplex, intransparent und ineffizient.
Offene Architektur für Generative KI
Im Projekt »OptimAIse« entwickeln wir eine skalierbare, modulare und interoperable Referenzarchitektur für Generative KI. Sie nutzt europäische Hardwareplattformen und ermöglicht den effizienten Einsatz großer Sprachmodelle. Da LLMs neue technische Herausforderungen mit sich bringen, stoßen bestehende Software-Engineering-Methoden häufig an ihre Grenzen. »OptimAIse« schafft deshalb eine gemeinsame Grundlage für Entwicklung und Betrieb moderner KI-Systeme. Unser Ziel ist es, Entwickelnde dabei zu unterstützen, skalierbare, nachhaltige und vertrauenswürdige Anwendungen auf Basis Generativer KI zu realisieren. Damit leistet »OptimAIse« einen wichtigen Beitrag zur Förderung leistungsfähiger und verantwortungsvoller KI in Europa.
Wir verfolgen dabei konkret folgende Ziele:
- Technologische Unabhängigkeit Europas stärken: Der Markt für KI-Beschleuniger wird derzeit von wenigen außereuropäischen Anbietern dominiert. »OptimAIse« integriert europäische Hardwarelösungen als kompatible Alternative und fördert so digitale Souveränität und Nachhaltigkeit.
- Eine einheitliche Systemarchitektur etablieren: Eine gemeinsame Referenzarchitektur für LLM-Anwendungen erleichtert die Wiederverwendung von Komponenten, senkt Entwicklungskosten und reduziert Sicherheitsrisiken.
- Regulatorische Anforderungen leichter erfüllen: Der europäische AI Act stellt hohe Anforderungen an Dokumentation, Transparenz, Robustheit und menschliche Kontrolle. Eine offene Standardarchitektur unterstützt dabei, diese Vorgaben effizient umzusetzen.
- Nachhaltigkeit messbar machen: Neben Leistung und Kosten berücksichtigt »OptimAIse« auch Energieverbrauch, CO₂-Emissionen und Wasserverbrauch als Optimierungsgrößen. Das verbessert Planbarkeit, Effizienz und Ressourcenschonung.
Wirtschaftlicher Betrieb von KI-Systemen
Kern des Frameworks ist eine adaptive Orchestrierungsplattform. Sie optimiert den Betrieb von KI-Anwendungen kontinuierlich hinsichtlich Leistung, Energieeffizienz und Nachhaltigkeit. Ergänzend stellen wir mit »OptimAIse« Werkzeuge bereit, mit denen sich KI-Systeme transparent, robust und fair gestalten und überprüfen lassen. Dafür entwickeln wir Open-Source-Bibliotheken und Integrationswerkzeuge. So lassen sich europäische Hardwarelösungen einfach in etablierte KI-Frameworks einbinden.
Gemeinsam mit europäischen Chipentwicklern übertragen wir Erkenntnisse aus realen Anwendungen direkt auf die nächste Generation von Prozessoren. Dies stärkt Europas technologische Infrastruktur, digitale Souveränität und Wettbewerbsfähigkeit.
Unser Beitrag als Fraunhofer ITWM: Effiziente KI-Algorithmen für europäische Hardwareplattformen
Unsere Kernaufgabe ist es, moderne europäische Hardware mit skalierbarer und effizienter KI-Software zu verbinden. Unser Fokus liegt darauf, Generative KI auf neuen energieeffizienten europäischen KI-Beschleunigern optimal ausführbar zu machen.
Dazu nutzen wir unter anderem den STX Stencil and Tensor Accelerator des Fraunhofer sowie das SpiNNaker2-System der TU Dresden. Diese Plattformen ermöglichen detaillierte Analysen von Leistungsengpässen moderner Chiparchitekturen. Auf dieser Grundlage entwickeln wir Algorithmen und Methoden, die den Kommunikationsaufwand verringern und verfügbare Rechenressourcen optimal ausschöpfen.
Unsere Projektpartner
»OptimAIse« vereint sieben kleine und mittlere Unternehmen, drei Forschungszentren, eine Universität sowie zwei öffentliche Verwaltungen. Wir als Fraunhofer ITWM arbeiten dabei eng mit seinen Partnern an der TU Dresden zusammen, insbesondere mit dem Lehrstuhl für Highly-Parallel VLSI Systems and Neuro-Microelectronics.
- Tree Technology SA (KMU), Spanien (Projektkoordinator)
- Hiro Microdatacenters B.V. (KMU) Niederlande
- Tages (KMU), Frankreich
- Barcelona Supercomputing Center, Spanien
- CyberEthics Lab SRLS (KMU), Italien
- Biti Innovations AB (KMU), Schweden
- Multiverse Computing SL (KMU), Spanien
- Technische Universität Dresden, Deutschland
- Servicio Andaluz de la Salud, Spanien
- Fundación para la Gestión de la Investigación en Salud de Sevilla, Spanien (Assoziierter Partner)
- OFFIS e.V., Deutschland
- F6S Network Ireland Limited (KMU), Irland
Projektlaufzeit und -förderung
Das Projekt läuft vom 1. Juni 2026 bis zum 31. Mai 2029 und wird im Rahmen von HORIZON Europe unter der Fördervereinbarung Nr. 101296742 »Software Engineering for AI and Generative AI« als »Research and Innovation Action« gefördert.
