Felix-Klein-Online-Themenworkshop »Continuous Optimization«

Dreitägige digitale Konferenz

Modelle zur nichtlinearen Optimierung sind im Zusammenhang mit physikalischen Modellen in allen Ingenieurwissenschaften wichtig. Bei der kontinuierlichen/nichtlinearen Optimierung sind, wie der Name schon sagt, sowohl das Ziel als auch die Randbedingungen typischerweise reellwertige Funktionen. Das Gebiet wurde von vielen Mathematiker:innen seit Euler, Newton, Lagrange und anderen eingeführt und untersucht.

Während des Herbstworkshops der Felix-Klein-Akademie vom 16. bis 18. September 2020 präsentieren drei international renommierte Wissenschaftler die neueste Forschung aus verschiedenen Bereichen der nichtlinearen Optimierung und diskutieren die Herausforderungen auf realen Problemen.

Die wissenschaftliche Leitung haben Assoc. Prof. Aviv Gibali und Prof. Dr. Karl-Heinz Küfer inne. Die dreitägige Konferenz ist zudem Teil der Herbstschule der Felix-Klein-Akademie 2020. Konferenzsprache ist Englisch und sie findet dieses Jahr per Videokonferenz statt. Im Interview berichtet Prof. Dr. Karl-Heinz Küfer als wissenschaftlicher Leiter mehr zu den Hintergründen, Zielen und dem Anspruch der Veranstaltung: 

»Unsere Themenkonferenzen bieten immer das ganze Spektrum«

Interview mit Prof. Dr. Karl-Heinz Küfer

Felix Klein Themenkonferenz
© Oleg Alexandrov
Felix-Klein-Online-Themenworkshop »Continuous Optimization«

Die Felix Klein Themenkonferenz dreht sich dieses Jahr um das Thema kontinuierlichen Optimierung. In welchen Anwendungsgebieten spielt »Nichlineare Optimierung« eine besonders große Rolle?

Das Gebiet der »Nichtlinearen Optimierung« ist ein Kerngebiet der angewandten Mathematik und unseres Instituts. Es bietet eine Bandbreite an Anwendungsthemen. Bei uns beschäftigt sich daher auch eine ganze Abteilung »Optimierung – Technische Prozesse« mit diesem weiten Feld. Um dies konkreter zu machen, will ich folgende drei Beispiele aus der Projektpraxis nennen:

  • Die Optimierung in der Strahlentherapie: Bei der Planung einer Therapie müssen mehrere Qualitätskriterien wie etwa die Heilungschancen und Nebenwirkungsrisiken berücksichtigt und für jede/n Patientin und Patient individuell gegeneinander abgewogen werden. Dazu wird die Therapieplanung als mehrkriterielles Optimierungsproblem modelliert, für das verschiedene bestmögliche Therapievorschläge errechnet werden. Für die zielgerichtete Auswahl des gewünschten Therapieplans werden unterstützende interaktive Entscheidungswerkzeuge zur Verfügung gestellt. Hier sind besonders Projektionsverfahren der kontinuierlichen Optimierung zu erwähnen, die bei dünn besetzten Gleichungssystemen Vorteile haben und daher als Elemente auch in unserer Algorithmik einfließen. (Mehr zu den Projekten um Strahlentherapie)
  • In der Layoutplanung in der chemischen Industrie bildet die nichtlineare Optimierung ebenfalls die Grundlage unserer Projekte (Mehr zu den Projekten in der Chemie-Branche): Bei der Planung chemischer Anlagen sind eine Vielzahl von Vorgaben, Einstellungen und Ziele zu berücksichtigen. So sollen beispielsweise Betriebs- und Investitionskosten möglichst geringgehalten, gleichzeitig möglichst hochwertige Produkte hergestellt werden. Dieser Planungsprozess erfolgt mit Hilfe des Einsatzes computergestützter Simulationen, in denen gemeinsam mit der Erfahrung des Menschen vor Ort und durch empirische Suche möglichst gute Einstellungen und Anlagendesigns gefunden werden. In diesen Projekten erarbeiten wir eine neue Herangehensweise an den Planungsprozess mittels einer Optimierungsstrategie.

  • Eines unserer ältesten Projekte ist die optimale Verwertung von Farbedelsteinen. Bei der Herstellung von Farbedelsteinen liegen zwischen Abbau und Verkauf mehrere Produktionsschritte, die bis vor ein paar Jahren ausschließlich in Handarbeit erledigt werden konnten. Der bei uns am Institut entwickelte Prozess ermöglicht nun die automatische Abwicklung mit hochpräzisen Schliffen bei optimaler Volumenausbeute – ebenfalls ein komplexes nichtlineares Optimierungsproblem. (Mehr zur Optimierung der Prozesse zur Edelsteinproduktion)

Bei der Themenkonferenz sind wieder international renommierte Experten geladen. Können Sie uns kurz skizzieren, wer für welche Schwerpunkte steht und warum genau diese drei auf der Referentenliste stehen?

Die Bandbreite, die unter dem Begriff »Nichtlineare Optimierung« fällt, ist groß, deshalb war es uns wichtig auch eine solche abzubilden. Am ersten Tag geht es um »Lineare Ungleichungssysteme und Projektionsmethoden«, dann Donnerstag um »Optimierungsverfahren erster Ordnung« und am letzten um »Stochastischen Gradientenabstieg«.

Wir haben uns dieses Jahr für drei Referenten entschieden, die bereits in ihren jungen Jahren sehr erfolgreich in diesem Bereich forschen und gleichzeitig mit uns als Institut in Verbindung stehen. Prof. Aviv Gibali ist aus Israel und war bei uns zwei Jahre als Postdoc tätig. Er ist uns immer noch sehr verbunden. Aktuell hat er gerade erst eine Doktorarbeit bei uns zum Thema Strahlentherapieplanung mitbetreut. (Titel: Speedup of lexicographic optimization by superiorization and its applications to cancer radiotherapy treatment. Doktorandin Esther Bonacker). Prof. Pontus Giselsson am Fachbereich Mathematik in Lund, Schweden, und Prof. Shoham Sabach and der Fakultät für Wirtschaftsingenieurwesen und Management am Technion in Haifa vervollständigen das Dozententeam.

Da die Veranstaltung für ein breites mathematisches Publikum zugänglich sein soll, war es uns wichtig, unterschiedliche Beispiele, aber auch die Grundbegriffe und Kernaussagen der kontinuierlichen Optimierung zu erläutern und zu vertiefen. Auch die Art zu lehren, zu präsentieren und mit jungen Menschen umzugehen, war bei der Auswahl der Referenten entscheidend.

Die Themenkonferenz ist jedes Jahr auch Programmpunkt der Herbstschule der Felix-Klein-Akademie und findet in Englisch statt. Besonders die neuen Stipendiaten:innen haben davor viel Respekt. Zu Recht? Was raten Sie den Studierenden?

Wir haben in der Herbstschule immer ganz gemischte Gruppen – vom frischgebackenen Abiturienten über den Bachelorstudenten bis hin zur Masterstudentin kurz vor dem Abschluss. Daher ist das mathematische Niveau breit gefächert. Das ist auch genauso gewollt, denn es belebt den Austausch und man kann voneinander lernen. Die ganz neuen Gesichter, die gerade frisch aus der Schule zu uns kommen, bekommen durch die Themenkonferenzen aber auch einen guten Eindruck, wie sich aus einfachen mathematischen Begriffen und Prinzipien ein Forschungsgebiet entwickelt. Das Lösen von einfachen Gleichungen und Ungleichungen und die Anwendung einfacher Algorithmen sind jedem/r Mathematiker:in aus der Schule bekannt. Der Kurs zeigt den Teilnehmenden auf, wie aus diesen einfachen Prinzipien und Methoden Lösungsverfahren für komplexere Gleichungs- bzw. Ungleichssysteme oder Optimierungsaufgaben mit Nebenbedingungen entstehen.   

Gruppe 4 arbeitet in Englisch und beschäftigt sich mit Neural Dialog Systems.
© Fraunhofer ITWM
Die dreitägige Konferenz ist Teil der Herbstschule der Felix-Klein-Akademie, die von den Felix-Klein-Stipendiatinnen und Stipendiaten besucht wird.

Generell bieten wir im Programm unserer Themenkonferenz immer ein breiteres Spektrum zu einem mathematischen Thema – von den einfachen Prinzipien und Beispielen bis hin zur wissenschaftlichen Front in Form aktueller Forschungsfragen. Oft wählen wir ein Thema, das man an der TU Kaiserslautern vielleicht nicht in dieser Form vertiefen kann, um den Blick zu weiten. Es ist auch nicht schlimm, wenn die Neuzugänge in den letzten 30 Minuten nicht mehr bei allem genau folgen können, das kann auch den älteren Semestern passieren. Es geht einfach darum, ein Gefühl für die Entstehung von Forschungsfeldern aus einfachen Prinzipien zu bekommen. Wo steht die Forschung? Was entwickelt sich? Und erfahrungsgemäß wird das natürlich auch mit dem Verständnis Jahr für Jahr besser. Es lohnt sich dranzubleiben.

Die Konferenz findet dieses Jahr erstmals digital statt. Stellt das die Organisation vor andere oder neue Herausforderungen?

Wir haben mit einer endgültigen Entscheidung, die Herbstschule und auch die Themenkonferenz stattfinden zu lassen, relativ lange gewartet, um das Corona-Infektionsgeschehen berücksichtigen zu können. Wir freuen uns natürlich, dass fast alle Veranstaltungen, wenn auch hybrid, also teilweise in Präsenz und teilweise digital, stattfinden können. Der Vorteil für unsere internationalen Experten ist, dass sie nicht direkt vor Ort sein müssen. Unsere Stipendiaten:innen nehmen von zuhause am Laptop aus teil. Aber auch unsere interne Mathe-Community hat es so leichter bei der Konferenz mit dabei zu sein. Es sind wie oft also nicht nur Herausforderungen, sondern auch Chancen, die sich digital ergeben. Wenn auch die organisatorische und technische Vorbereitung eine andere ist.

Was war für Sie persönlich ein Highlight der Konferenz? Was fanden Sie besonders spannend/überraschend?

Es sind natürlich alle drei Tage spannend. Aber da ich mit den beiden ersten Themen schon sehr vertraut bin, interessiert mich besonders der letzte Tag: Der stochastische Gradientenabstieg. Gerade Probleme mit endlicher Summenstruktur z. B. beim maschinellen Lernen, werden oft mit stochastischen Gradientenverfahren gelöst. Für die meisten Algorithmen des maschinellen und Deep Learning ist eine Art Optimierung erforderlich, also Minimieren oder Maximieren einer Funktion unter Nebenbedingungen.

Ein Gradientenverfahren läßt sich einfach veranschaulichen: Stellen wir uns vor, wir sind auf einer Wanderung und möchten schnellstmöglich ins Tal hinab. Der negative sogenannte Gradient zeigt an jeder Stelle unseres Weges in die Richtung des steilsten Abfalls des Berges. Eine mögliche Strategie des schnellen Abstiegs ist es daher, immer dem negativen Gradienten zu folgen. Dies kann aber schnell zum Hängenblieben in örtlichen Senken führen. Mit einer zufälligen Wahl der Abstiegsrichtung (stochastischer Gradient) ist man womöglich langsamer unterwegs aber, das Verfahren ist oft viel robuster. Darum geht‘s am letzten Tag.

Prof. Dr. Karl-Heinz Küfer
© Frauhofer ITWM
Prof. Dr. Karl-Heinz Küfer ist wissenschaftlicher Leiter der Themenkonferenz und Leiter der Abteilung »Optimierung – Operations Research« am Fraunhofer ITWM.

Diese internationalen Experten sind die Referenten

Aviv Gibali

Aviv Gibali ist außerordentlicher Professor und Leiter der mathematischen Abteilung am ORT Braude College, Karmiel in Israel. Er ist spezialisiert auf Projektionsmethoden für Machbarkeitsprobleme und Anwendungen wie IMRT, Bildverarbeitung. Sein Vortragsthema ist »Lineare Ungleichungen, Projektionsmethoden und das Problem der konvexen Machbarkeit«.

Shoham Sabach

Shoham Sabach ist außerordentlicher Professor an der Fakultät für Wirtschaftsingenieurwesen und Management, The Technion in Israel. Zu seinen Forschungsthemen gehören: kontinuierliche, großmaßstäbliche (nicht-)glatte und (nicht-)konvexe Optimierung mit Anwendungen. Er präsentiert zu »Optimierungsmethoden erster Ordnung«.

Pontus Giselsson

Pontus Giselsson ist außerordentlicher Professor an der Abteilung für automatische Steuerung an der Universität Lund in Schweden. Sein Hauptforschungsinteresse gilt der Optimierung und ihrem breiten Anwendungsspektrum. Er spricht zum Thema »Stochastischer Gradientenabstieg«.