Skip to main content
Generated image
TUM | ©Andreas Heddergott

Leopoldina-Preis für Niki Kilbertus

Awards & Grants, Health AI,

Die Nationale Akademie der Wissenschaften Leopoldina ehrt den Helmholtz Munich KI-Wissenschaftler Niki Kilbertus für seine Lehr- und Forschungsleistungen auf dem Gebiet des ethischen maschinellen Lernens mit dem Leopoldina-Preis für junge Wissenschaftlerinnen und Wissenschaftler 2024.

Seit 1993 vergibt die Akademie den Leopoldina-Preis für junge Wissenschaftlerinnen und Wissenschaftler. Er wird jährlich an Nachwuchsforschende mit bemerkenswerten wissenschaftlichen Leistungen vergeben, deren Promotion nicht mehr als fünf Jahre zurückliegt. Der Auswahlkreis ist übernational und der Preis mit jeweils 5.000 Euro dotiert. Dieses Jahr wird der Preis an Helmholtz Munich Wissenschaftler Niki Kilbertus überreicht.

Faire und transparente KI

Prof. Dr. Niki Kilbertus untersucht bei Helmholtz Munich und an der Technischen Universität München (TUM) ethische maschinelle Lernsysteme (ML). ML spielen in immer mehr Lebensbereichen eine wichtige Rolle, zum Beispiel in der medizinischen Diagnostik, bei Chatbots oder personalisierten Vorschlägen von Streaming-Anbietern. Wenn ML jedoch an sensiblen Stellen über Menschen entscheiden – beispielsweise bei Vorstellungsgesprächen oder beim Prüfen der Kreditwürdigkeit – muss Fairness und Transparenz sichergestellt werden. Niki Kilbertus gehört zu den Pionieren, die kausale Konzepte der Fairness bei automatisierten Entscheidungsprozessen formalisiert haben. Um Entscheidungen treffen zu können, müssen ML mit Daten trainiert werden, die sie zueinander in Beziehung setzen. Kilbertus legt in seiner Forschung einen besonderen Schwerpunkt auf die Ursache-Wirkungs-Beziehungen aus Beobachtungsdaten, die kausalen Inferenzen. Diese zielen darauf ab, echte kausale Zusammenhänge von bloßen Korrelationen in Daten zu unterscheiden. Bei der Weiterentwicklung des Systems sollen die ML in die Lage versetzt werden, sich von fehlerhaften Annahmen zu lösen und so angemessene Entscheidungen zu treffen. Die Forschung dient der Entwicklung von KI-Systemen, die nicht nur hochpräzise, sondern auch ethisch vertretbar, transparent und robust sind. Diese Entwicklung ist essenziell, um sicherzustellen, dass KI der Gesellschaft insgesamt zugutekommt, vertrauenswürdiger wird und gleichzeitig Risiken und Verzerrungen minimiert werden.

Über den Wissenschaftler

Prof. Dr. Niki Kilbertus studierte von 2010 bis 2016 Mathematik und Physik an der Universität Regensburg, wobei er im Jahr 2014 Auslandsaufenthalte an der Harvard University/USA sowie von 2015 bis 2016 an der Stanford University/USA absolvierte. Er wurde 2020 an der University of Cambridge/UK promoviert. Seit 2021 ist er Professor für Ethics in Systems Design and Machine Learning an der TUM im Fachbereich Informatik und seit 2020 Helmholtz AI Forschungsgruppenleiter bei Helmholtz Munich. Er erhielt während seiner Doktorarbeit das Cambridge – Tübingen PhD Fellowship in Machine Learning und wurde 2019 vom Bundesministerium für Bildung und Forschung und der Gesellschaft für Informatik als KI-Newcomer des Jahres ausgezeichnet.