Dem Forschungsbereich Industrial Deep Learning (IDL) wurde Rechenzeit auf JUPITER zugesprochen, dem ersten Exascale-Supercomputer Europas am Forschungszentrum Jülich. Der Zugang wurde in einem kompetitiven Verfahren vergeben, in dem sich bisher mehr als 120 nationale und internationale Forschungsvorhaben um Rechenkapazität beworben haben, von globalen Klimasimulationen bis zur Simulation von Quantencomputern.

Genutzt wird die Rechenzeit für Self-Supervised Learning (SSL) in der Computer Vision. In der industriellen Bildverarbeitung sind gelabelte Daten teuer, knapp und häufig inkonsistent. SSL setzt an genau diesem Engpass an: Die Modelle lernen aussagekräftige Repräsentationen unmittelbar aus den Bilddaten, bevor ein einziges manuelles Label vergeben wird. Die zentrale methodische Frage ist, welche Kombination aus Modellarchitektur, Datenmenge und Augmentierungsstrategie dabei die tragfähigsten Repräsentationen liefert.

Diese Frage lässt sich nur durch systematisches Durchtesten eines großen Suchraums beantworten, was ein rechenintensives Vorhaben darstellt. Auf JUPITER lassen sich entsprechende Pretraining-Läufe in einer Größenordnung durchführen, die auf institutseigener Infrastruktur nicht erreichbar wäre. Statt einzelne Trainingsläufe über Wochen zu rechnen, kann der Forschungsbereich den Raum möglicher Konfigurationen deutlich breiter und schneller erschließen.

JUPITER wird vom Jülich Supercomputing Centre betrieben und war das erste europäische System, das die Exascale-Schwelle von einer Trillion Rechenoperationen pro Sekunde überschritten hat. Zugleich gilt der Rechner als energieeffizientestes System seiner Leistungsklasse. Dass ein Wuppertaler Forschungsbereich hier zum Zug kommt, ist auch ein Standortsignal für die Region: JUPITER steht in Jülich und damit in Nordrhein-Westfalen.

Verantwortet wird das Vorhaben von Dr.-Ing. Moritz Weiß, Leiter des Schwerpunkts Visual Perception & Understanding der IDL, gemeinsam mit dem Doktoranden Nils Hütten. Die ersten großskaligen Pretraining-Läufe sind angelaufen, über die Ergebnisse wird der Forschungsbereich berichten, sobald sie vorliegen.