Google Research Scholar Award für HSG-Forschung über Vertrauenswürdige KI

7. Juli 2022. Prof. Damian Borth, Leiter des Lehrstuhls für Künstliche Intelligenz und Maschinelles Lernen an der Universität St.Gallen, wurde mit den Google Research Scholar Award 2022 ausgezeichnet. Er will die Auszeichnung nutzen, um sogenannte «Hyper-Representations» aus grossen Populationen von vortrainierten Neuronalen Netzen zu lernen. Diese können uns helfen die nächste Generation von Künstlicher Intelligenz sicherer und robuster gestalten zu können.

Was können wir über das «Lernen» lernen?

«Genau wie wir statistische Zusammenhänge erst aus Populationen lernen können, kann es geometrische Abhängigkeiten geben, welche nur entdeckt werden können, wenn wir uns Populationen von Neuronalen Netze anschauen und diese untersuchen», sagt Damian Borth.  Ziel dieses Vorhabens ist es zu verstehen was erfolgreich trainierte Tiefe Neuronale Netze gemeinsam haben und was nicht. Vielleicht gibt es in diesem Kontext ein übergeordnetes geometrisches Regelwerk, welches wir noch nicht kennen bzw. entdeckt haben? Konstantin Schürholt, der aktiv an dem Thema am Lehrstuhl forscht, sieht noch einen weiteren Vorteil dieses Ansatzes: «Wenn wir erst verstanden haben, welche Eigenschaften erfolgreiche Neuronalen Netze ausmachen, können wir diese aktiv ausnutzen, um KI-Systeme erfolgreicher und effizienter zu trainieren. Das ist gerade im Hinblick auf Nachhaltigkeit von KI sehr wichtig.»

Anwendung in Vertrauenswürdiger KI
Wie gezeigt werden konnte, wurden «Hyper-Representations» bereits erfolgreich angewendet, um bestimmte Eigenschaften von Neuronale Netze nur aus dem Gewichten dieser ableiten zu können oder ein Neuronales Netz zu testen ohne Testdaten dafür verwenden zu müssen. Mittelfristig könnte man solche Repräsentationen verwenden, um bestimmte Leistungsmerkmale von Neuronalen Netze zertifizieren zu können. Ein wichtiger Schritt auf dem Weg zur Vertrauenswürdigen KI, welche als Schlüsseltechnologie für die erfolgreiche Anwendung von KI gilt.

Google Research Scholar Award

Der Google Research Scholar Award 2022 wurde an 94 Forscher weltweit verliehen, von denen 14 in Europa forschen. Neben der Universität St.Gallen wurden zwei weitere Google Research Awards an die ETH verliehen: Prof. Ryan Cotterell im Forschungsbericht «Natürliches Sprachverstehen» und Prof. Marina Krstic Marinkovic im Forschungsbereich «Quantencomputing». Im Forschungsbereich «Maschinelles Lernen und Data Mining» wurde Prof. Damian Borth als einziger Forscher aus Europa ausgewählt.