Artikel | WIAS | 12-07-2022

Maschinen das robuste Lernen beibringen

Der Weg von Dr. Jia-Jie Zhu führte von Shanghai über Florida nach Deutschland. Heute erforscht der Mathematiker neue Methoden des maschinellen Lernens am Weierstraß-Institut.

Dr. Jia-Jie Zhu | Foto: privat

In seiner beruflichen Laufbahn hat der chinesische Mathematiker Jia-Jie Zhu schon einige Wasser überquert. Er ist nicht nur in Shanghai aufgewachsen, sondern hat dort auch an der renommierten Fudan-Universität studiert. Nach seinem Bachelor-Abschluss ist er auf eine Promotionsstelle in die USA gewechselt. Bis zu diesem Punkt verfolgte er noch keine besondere Spezialisierung, sondern erarbeitete sich ein breites Verständnis der mathematischen Grundlagen. Zur Promotion fand er aber ein Thema, das ihn schon immer fasziniert hatte und das er bis heute verfolgt: Optimierungsprobleme aller Art.

Wachsendes Interesse am maschinellen Lernen

Hierzu machte er den ersten großen Sprung über einen Ozean und ging an die University of Florida, wo er in der Gruppe von Prof. William Hager zu Fragen der numerischen Analysis und allgemeinen Optimierungsprobleme forschte. In den insgesamt fünf Jahren, in denen er in Florida lebte, entwickelte er ein zunehmendes Interesse am maschinellen Lernen, also der algorithmischen Herangehensweise an Optimierungsprobleme. Nach der Promotion wechselte Zhu dann von der University of Florida an das Boston College, wo er rund anderthalb Jahre lang als Postdoc arbeitete.

Inzwischen hatte er bereits Kontakte nach Deutschland geknüpft und sich auf ein individuelles Marie Skołodowska-Curie-Forschungsstipendium der Europäischen Kommission beworben. Dieses wurde ihm gewährt und ermöglichte ihm für zwei Jahre eine Finanzierung seiner Forschungsarbeit – und Zhu machte seinen zweiten großen Sprung über einen Ozean, dieses Mal den Atlantischen und nicht den Pazifischen.

In Deutschland angekommen, verbrachte er die nächsten vier Jahre am Tübinger Max-Planck-Institut für Intelligente Systeme. Während dieser Zeit arbeitete er auch in der Abteilung „Empirische Inferenz“ unter der Leitung von Prof. Bernhard Schölkopf. Das Hauptarbeitsgebiet dieser Gruppe ist das Maschinenlernen – und dabei insbesondere sogenannte Kernel-Methoden. Dies sind Algorithmen, die mit Hilfe spezieller mathematischer Abbildungen Datenstrukturen in eine einfache handhabbare Form überführen. Mit solchen Methoden sollen etwa aus einer beschränkten Anzahl von Messwerten sinnvolle Aussagen über materielle Systeme gemacht werden.

In dieser Zeit beschäftigte sich Zhu unter anderem mit Fragen wie der robusten optimalen Kontrolle von Prozessen, wobei sein Arbeitsgebiet die abstrakte Mathematik ist und nicht die Anwendung auf konkrete Probleme. Die in diesem Forschungsgebiet entwickelten Verfahren zeichnen sich allerdings durch große Allgemeingültigkeit aus und können im Prinzip in vielen verschiedenen Gebieten angewandt werden.

Optimierungsfragen – ein Algorithmus ist nicht unbedingt „schlau“

Während seiner Tübinger Zeit wechselte Zhu auch für einen halbjährigen Forschungsaufenthalt an die Universität Freiburg, wo er sich bei Prof. Moritz Diehl mit sogenannter robuster Optimierung und Kontrolle beschäftigte. Dies betrifft ein Kernproblem von Optimierungsfragen: denn zahlreiche Dinge lassen sich mit Hilfe von Algorithmen und Maschinenlernen optimieren und somit besser steuern und kontrollieren. Wenn sich aber die Parameter ein Stück weit ändern, dann sollte die Optimierung bei einer realen Anwendung nach Möglichkeit immer noch gut bleiben und nicht plötzlich zu schlechten Resultaten führen. Ein Algorithmus ist aber nicht unbedingt „schlau“ genug, um auch jenseits dessen gut zu funktionieren, wofür er entwickelt beziehungsweise trainiert worden ist. Das Forschungsgebiet der robusten Optimierung hat sich zum Ziel gesetzt, genau diese Fragen anzusprechen. Sie sind allerdings mathematisch durchaus anspruchsvoll und schwierig zu bearbeiten. Denn mathematische Modellierung wird in vielen Zweigen in der Wissenschaft und Wirtschaft eingesetzt und dient dort zunehmend als Grundlage zur Entscheidungsfindung.

Jetzt Gruppenleiter am WIAS

Mit diesen fachlichen Voraussetzungen ist Zhu nun vor gut einem Jahr nach Berlin gewechselt und hat eine Stelle am Weierstraß-Institut für Angewandte Analysis und Stochastik (WIAS) angenommen. Dabei hat ihn nicht nur die urbane Lebensqualität motiviert, sondern vor allem die fachliche Kompetenz des WIAS in den Bereichen der Variationsanalyse und computergestützten Analysis.

Als Leiter der Weierstraßgruppe „Datengetriebene Optimierung und Steuerung“ arbeitet er an seinen bisherigen Forschungsgebieten und hat außerdem weitere mathematische Fragestellungen aufgegriffen. Eine davon ist die Anwendung von optimalem Transport auf maschinelles Lernen und Optimierung, bei der Wahrscheinlichkeitsverteilungen anstelle von deterministischen Objekten manipuliert werden. Ein weiteres Arbeitsgebiet ist der robuste Umgang mit Datenstrukturen unter unsicheren Bedingungen. Daraus lässt sich etwa abschätzen, wie gut man von einer vergangenen Pandemie auf die nächste schließen kann. Genau diese Vielfalt an Optimierungsmöglichkeiten ist es, die für Zhu den Reiz an der mathematischen Arbeit ausmacht. Im Augenblick fühlt er sich jedenfalls in Berlin sehr gut aufgehoben, weshalb die Optimierung seines Lebensweges keine baldige Schwerpunktverlagerung über den nächsten Ozean vorsieht.

Dirk Eidemüller

Weierstraß-Institut für Angewandte Analysis und Stochastik
Datengetriebene Optimierung und Steuerung
Dr. Zhu, Jia-Jie
Tel. 030 20372-339
E-Mai jia-jie.zhu@wias-berlin.de