Learning More From Less; das ist das Ziel von Bastian Grossenbacher-Rieck. Der neue Professor für Machine Learning will künstliche Intelligenz effizienter machen – damit sie weniger Energie frisst und bessere Resultate liefert.
«Es ist vergleichbar mit der Zeit zu Beginn des Ölrauschs», sagt Bastian Grossenbacher-Rieck. Er ist Professor für Machine Learning am Departement für Informatik und denkt bei seinem pointierten Vergleich an den aktuellen Umgang mit Daten und künstlicher Intelligenz. «Überall hat es Daten und es wird einfach mal gemacht, was geht. Ständig werden noch mehr Daten darauf geschüttet und es wird geschaut, was für coole Dinge damit gemacht werden können. Das darf am Anfang so sein, aber irgendwann müssen wir einen Schritt weiterkommen.»
«Es gibt Limiten in der Natur»
Wie das Erdöl ist nämlich auch die Kapazität der Datenverarbeitung endlich. «Es gibt Limiten in der Natur, das kann nicht wegdiskutiert werden. Irgendwann lässt sich das Datacenter nicht mehr genügend kühlen», sagt Grossenbacher-Rieck und weist darauf hin, dass Microsoft bereits damit experimentiert hat, Datacenter im Meer zu versenken, um sie so zusätzlich zu kühlen.
Der Datenschwall bringt aber auch noch ein weiteres Problem mit sich: «Seit es ChatGPT gibt, hat es im Internet viel mehr Daten, die bereits von künstlicher Intelligenz erzeugt wurden. Es ist unklar, was ein Modell damit macht, wenn es wieder seine eigenen Daten zum Trainieren kriegt. Wird es dadurch schlechter? Driftet es in eine gewisse Richtung ab?» Wahrscheinlich reproduziert die KI die eigenen Fehler immer und immer wieder. Mehr Daten darauf zuschütten, hilft da nicht unbedingt.
ERC Starting Grant
Learning More From Less, lautet deshalb der Slogan, mit dem Bastian Grossenbacher-Rieck sein Projekt angepriesen hat, für das er einen prestigeträchtigen Starting Grant des European Research Council (ERC) erhalten hat. «Die Idee ist, effizientere, kleinere Modelle zu bauen, die mindestens so gut sind wie die grossen.» HOLES – Higher-Order Learning of Essential Structures with Geometry and Topology, heisst der Titel des Projekts, das im Januar anläuft und fünf Jahre dauert. «In der Geometrie geht es um die Details, um das Kleine, die Topologie ist für das grosse Ganze zuständig. Ich will die beiden Bereiche ins maschinelle Lernen bringen, sie vereinen, indem ich mir Zusammenhänge und Überschneidungen anschaue. So will ich neue Methoden im Machine Learning aufbauen.»
Das klingt alles kompliziert – und ist es auch. Konkret geht Bastian Grossenbacher-Rieck mit seinem Team in drei Schritten vor. Bevor sie ein Modell entwickeln, schauen sie sich die Daten selbst an, untersuchen etwa, ob sich Singularitäten finden lassen, Regionen in den Daten, in denen die ursprünglichen Annahmen nicht mehr zutreffen. «Ein anschauliches Beispiel ist da ein Modell, das mit handschriftlichen Notizen trainiert wird. Da kann eine 7 auch einmal aussehen wie eine 1, entsprechend weiss das Modell nicht, was es machen soll.» In einem zweiten Schritt geht es darum, dem Modell Stützräder zu verleihen, ihm zu sagen, was es in diesen Fällen machen muss. «Gleichzeitig kontrollieren wir, dass das Training in die richtige Richtung läuft.» In einem dritten Schritt wird dann das Modell neu gefüttert, mit neuen KI-Architekturen versehen, damit gewisse Merkmale in den Daten besser extrahiert werden können.
Ist schlanke KI überall möglich?
Am besten kennt sich Bastian Grossenbacher-Rieck in den Bereichen Netzwerkstrukturen und Graphen aus. Dort sei es definitiv sinnvoll, auf weniger Daten zu setzen. Auch wenn man mit Molekülen arbeite, sei das der Fall. Doch lässt sich die Idee der schlanken, aber smart gefütterten KI auf alle Bereiche übertragen? «Es gibt Sachen, die sicher sehr viele Daten benötigen. Ich denke da an die Bildverarbeitung. Aber ich bin überzeugt, dass es in sehr vielen Bereichen Platz für effizientere Modelle hat. Wir sind da als Community noch erst am Anfang.»
Früherkennung bei Autismus und Alzheimer?
Sein inneres Feuer für die Materie brennt lichterloh, die Begeisterung ist Bastian Grossenbacher-Rieck in jedem Satz anzuhören. Was treibt ihn an? Einerseits sei ihm genaues Verständnis wichtig. «Bei der KI wissen wir teils immer noch nicht genau, warum sie funktioniert – die theoretischen Grundlagen fehlen zu einem Grossteil.» Andererseits will er seinen Teil dazu beitragen, dass maschinelles Lernen in der Praxis zu sinnvollen Fortschritten führt. «Die Neurowissenschaften haben mich inspiriert», sagt Grossenbacher-Rieck, dessen Frau Ärztin ist. Es stünden viele Daten zur Verfügung, etwa wenn Magnetresonanztomographien (MRT) durchgeführt würden. «Mit Kollegen aus Yale sind wir derzeit dran, zu schauen, ob eine Früherkennung von Autismus-Spektrum-Störungen möglich ist.» Die gleiche Hoffnung gilt bei Alzheimer. «Dort ist die Datenlage sehr gut. Dank der MRT gibt es über einen Zeitraum von mehreren Jahren immer wieder Bilder, auf denen das Fortschreiten der Krankheit erkennbar ist. Noch ist alles sehr retrospektiv, wenn dereinst prospektiv diagnostiziert und der Krankheit entgegengewirkt werden könnte, wäre das ein Traum.»
Pingpong zwischen Mathematiker_in und Maschine
Traum ist auch das Wort, das Grossenbacher-Rieck verwendet, wenn er von einem Assistenzsystem für Mathematiker_innen spricht. «Ein KI-System und Mathematiker_innen, die zusammenarbeiten, um neues mathematisches Wissen zu schaffen, eine spezialisierte KI, mit der wissenschaftliches Pingpong gespielt werden kann – eine interessante Vorstellung.» Der Weg führt seiner Meinung nach auch da wieder über eine schlanke, effiziente KI. «Ein Schachcomputer muss auch keine Kochrezepte kennen», sagt Grossenbacher-Rieck.
Der Professor aus Heidelberg mag anschauliche Vergleiche – und hat ein Flair für Unterhaltung. Auf seiner Website führt er drei verschiedene Lebensläufe auf. In der Version «episch, aber höchst unprofessionell» schreibt er, schon als Kind habe der kleine Bastian die unheimliche Fähigkeit gehabt, überall Muster zu erkennen – selbst in der Kohlsuppe, einer Spezialität aus seiner Region. «Auch in Forschung und Lehre können ein wenig Humor und ab und zu ein Augenzwinkern nicht schaden», sagt er dazu.
Auf Youtube präsent
Möglichst viele Leute mitzunehmen, ist Bastian Grossenbacher-Rieck wichtig, es ist seiner Meinung nach sogar eine Verpflichtung der Universitäten der Allgemeinheit gegenüber. Auch deshalb ist der 38-Jährige unter anderem auf Youtube präsent. Das entsprechende Equipment kaufte er sich während der Pandemie, als er an der ETH Zürich unterrichtete. Momentan zeigt er seinen knapp 2300 Abonnent_innen relativ lange Fachvorträge. «Die Videos sind nicht professionell geschnitten und ziemlich roh. Wenn ich richtig in Freiburg angekommen bin, möchte ich gerne das nächste Level erreichen.» Er kann sich zum Beispiel fünf- bis zehnminütige Themen- und Erklärvideos vorstellen. «Schön wäre, wenn die Studierenden einen Teil dazu beitragen würden.»
Hub für Machine Learning
Grossenbacher-Rieck ist seit August als Professor an der Universität Freiburg tätig. «Es gefällt mir sehr gut, ich bin immer noch dabei, möglichst viele Leute zu treffen», sagt der junge Vater, der auch das AIDOS Lab (Artificial Intelligence for Discovering Obscured Shapes) leitet. «Ich bin sehr interessiert an Kollaboration, gerne fungieren meine Gruppe und ich als Hub für Machine Learning. Es ist mir wichtig, den Leuten aufzuzeigen, dass wir in Freiburg nun über mehr Kompetenzen in diesem Bereich verfügen und sich alle bei Fragen gerne an uns wenden können.»
Zur Person: Bastian Grossenbacher-Rieck machte an der Universität Heidelberg zunächst den Master in Mathematik und anschliessend denjenigen in Informatik, wo er zudem promovierte. Danach war er unter anderem als Senior Assistent an der ETH Zürich, als Junior Fellow an der Technischen Universität München sowie als Arbeitsgruppenleiter am Helmholtz-Zentrum München tätig. Seit August ist der 38-Jährige Professor für Machine Learning an der Universität Freiburg. Mehr zu seiner Forschung und seinen Interessen findet sich auf seiner Website.
________- Website von Bastian Grossenbacher-Rieck
- Er will die KI mit weniger Trash füttern - 19.12.2024
- Umweltpreis: Wie die Verbuschung im Wallis philosophische Fragen aufwirft - 12.12.2024
- Zwischen Medizinstudium und Olympia-Abenteuer - 07.08.2024
