Skip to main content
Dr. Eric Schulz
Jörg Abendroth | Copyright: Max-Planck-Institut für biologische Kybernetik

Interview Maschinenpsychologie und Foundation-Modelle: Die Zukunft der KI in Medizin und Kognition

Ein Interview mit Dr. Eric Schulz, Direktor des Helmholtz Munich Institute of Human-Centered AI.

Ein Interview mit Dr. Eric Schulz, Direktor des Helmholtz Munich Institute of Human-Centered AI.

Dr. Eric Schulz nutzt Foundation-Modelle, um das Verhalten von künstlicher Intelligenz (KI) aus Sicht der Psychologie zu verstehen. Sein Ziel: Technologie für bessere Diagnosen und Behandlungen voranzutreiben – und gleichzeitig seiner Leidenschaft nachzugehen, tiefgehende Einblicke in die menschliche Kognition zu gewinnen.

Seit wann sind Sie Direktor bei Helmholtz Munich?

ES: Ich bin seit Dezember 2023 Direktor des Instituts für Human-Centered AI und damit Teil des Computational Health Centers. Mich inspiriert das Zusammenspiel zwischen den Bereichen der Kognitionswissenschaft und des maschinellen Lernens. Ich möchte intelligente Agenten, wie KI-Modelle, verstehen und erschaffen, damit wir ihre Fähigkeiten nutzen können, um unser Wissen in verschiedenen Bereichen wie der Medizin und den Sozialwissenschaften zu erweitern.

Was fasziniert Sie an "Foundation Models"?

ES: Zum ersten Mal können wir mit Agenten interagieren, die scheinbar allgemein intelligent sind, da sie viele verschiedene Aufgaben lösen können. Allerdings verstehen wir noch nicht viel darüber, wie diese Agenten „ticken“, obwohl sie bald viele Aspekte unseres Lebens durchdringen werden. Ich möchte sie besser verstehen und dazu beitragen, dass sie für alle von Nutzen sind.

Wir nutzen Werkzeuge aus der Psychologie, wie experimentelle Designs und computergestützte Modellierung, um Aspekte von Foundation-Modellen zu verstehen, wie zum Beispiel ihr Explorations- oder Kooperationsverhalten.“
Dr. Eric Schulz

Was erforscht "Maschinellen Psychologie? - Und warum sind hieraus gewonnene Erkenntnisse relevant?

ES: Wir nutzen Werkzeuge aus der Psychologie, wie experimentelle Designs und computergestützte Modellierung, um Aspekte von Foundation-Modellen zu verstehen, wie zum Beispiel ihr Explorations- oder Kooperationsverhalten. Dieser Ansatz ist wichtig, weil diese Modelle im Wesentlichen eine Black Box sind, d.h. wir können sie nicht allein durch das Betrachten ihrer Gewichte verstehen.

Inwieweit sind sich Menschen und Maschinen Ihrer Meinung nach ähnlich, und wo unterscheiden sie sich? Wie setzen Sie diese Erkenntnisse in Ihrer Forschung ein?

ES: Ich sehe sowohl Ähnlichkeiten als auch Unterschiede zwischen Menschen und Maschinen. Maschinen und Menschen können ähnliche Verhaltensmuster und Lernprozesse aufweisen, wie zum Beispiel „Aha-Erlebnisse“ und kognitive Verzerrungen, wie Überkonfidenz. Es gibt jedoch bedeutende Unterschiede, insbesondere im Verständnis und in der Empathie. Maschinen fehlt eine sogenannte „Therory of Mind“, was es ihnen erschwert, mentale Zustände bei sich selbst und anderen zu verstehen und zuzuschreiben. Außerdem generieren KI-Systeme oft Antworten ohne Vorausplanung, im Gegensatz zu Menschen, die Handlungen mit einem Ziel vor Augen planen.

Ich nutze diese Erkenntnisse für meine Forschung, indem ich psychologische Methoden, die für Menschen entwickelt wurden, einsetze, um das Verhalten von KI zu untersuchen. Dieser Ansatz hilft uns, die Grenzen und Stärken von KI zu verstehen und zu verbessern. Darüber hinaus liefert die Verwendung von KI zur Simulation menschlicher kognitiver Prozesse in großem Umfang wertvolle Einblicke in die menschliche Kognition. Wir arbeiten derzeit an einem Foundation-Modell der menschlichen Kognition, das auf jede kognitive Aufgabe wie menschliche Probanden reagieren soll.

„KI-Systeme generieren oft Antworten ohne Vorausplanung, im Gegensatz zu Menschen, die Handlungen mit einem Ziel vor Augen planen.“
Dr. Eric Schulz

Welche Erkenntnis hat Sie bei Ihren Forschungen über die Psychologie der Maschinen am meisten überrascht?

ES: Die überraschendste Entdeckung in unserer Forschung war, dass Sprachmodelle ein Verständnis für komplexe Konzepte wie die Gesetze der Physik entwickeln können, ohne direktes Erfahrungslernen oder physische Interaktion. Zum Beispiel waren die Vorhersagen des Modells in Experimenten, in denen wir GPT-4V Bilder von Hochhäusern zeigten und fragten, ob sie stehen bleiben oder einstürzen würden, fast genauso genau, wie die menschlicher Teilnehmer. Dies deutet darauf hin, dass KI abstrakte Prinzipien rein durch das Training mit großen Datenmengen erfassen kann, was die herkömmliche Überzeugung, dass physische Interaktion und starke induktive Vorurteile notwendig sind, herausfordert.

„Foundation-Modelle haben das Potenzial, die menschliche Gesundheit zu revolutionieren, indem sie innovative Werkzeuge für Diagnosen, Behandlungen und personalisierte Medizin bereitstellen.
Dr. Eric Schulz

Wie können "Foundation Models" die Gesundheit verbessern?

ES: Foundation-Modelle haben das Potenzial, die menschliche Gesundheit zu revolutionieren, indem sie innovative Werkzeuge für Diagnosen, Behandlungen und personalisierte Medizin bereitstellen. Insbesondere streben wir an, ein Foundation-Modell für die computergestützte Psychiatrie zu schaffen, das große Mengen an Daten aus Patientenhistorien, genetischen Informationen und Verhaltensmustern analysieren kann, um Verhaltens- und Computermuster von psychischen Gesundheitsproblemen zu identifizieren und individuelle Reaktionen auf verschiedene Behandlungen vorherzusagen. Durch den Einsatz von natürlicher Sprachverarbeitung und maschinellem Lernen können diese Modelle maßgeschneiderte therapeutische Empfehlungen und Echtzeit-Unterstützung bieten, was die Genauigkeit und Wirksamkeit der psychiatrischen Versorgung verbessert. Dieser Ansatz kann nicht nur die Ergebnisse für die Patienten verbessern, sondern auch den Klinikern helfen, fundiertere Entscheidungen zu treffen.

 

Warum haben Sie sich für Helmholtz Munich entschieden?

ES: Ich habe mich wegen der freundlichen und exzellenten Forschungsumgebung und der Möglichkeit, an Dingen zu arbeiten, die tatsächlich von Bedeutung sind dazu entschieden, zu Helmholtz Munich zu wechseln. Ich mochte die Atmosphäre hier von Anfang an und freue mich über den häufigen Austausch mit führenden Expertinnen und Experten, deren Arbeit ich im Bereich der computergestützten Gesundheit und Medizin wirklich inspirierend finde. Helmholtz baut auch eine beträchtliche KI-Expertise und GPU-Rechenleistung auf, sodass es einfach einer der besten Orte ist, wenn man an computergestützter Forschung arbeiten möchte. Außerdem hatte ich schon immer eine Schwäche für München – wo sonst findet man Spitzenforschung, Seen, Berge, Kunstgalerien und das beste Bier der Welt?

Was sind die größten Herausforderungen Ihrer Forschung und warum lohnt es sich trotzdem jeden Tag?

ES: Die größte Herausforderung meiner Forschung ist es, die Menschen davon zu überzeugen, dass Maschinenpsychologie ein ernstzunehmendes und wertvolles Feld ist. Viele sind skeptisch gegenüber der Anwendbarkeit psychologischer Methoden auf KI und zweifeln daran, ob Maschinen wirklich menschenähnliche Denkprozesse nachahmen können. Trotzdem lohnt es sich jeden Tag, weil das Verständnisdie Betrachtung von KI-Verhalten durch eine psychologische Linse nicht nur unsere Technologie vorantreibt, sondern auch tiefgehende Einblicke in die menschliche Kognition bietet. Dieser doppelte Nutzen macht die Anstrengung unglaublich lohnenswert.

Die Betrachtung von KI-Verhalten durch eine psychologische Linse treibt nicht nur unsere Technologie voran, sondern bietet auch tiefgehende Einblicke in die menschliche Kognition. Dieser doppelte Nutzen macht die Anstrengung unglaublich lohnenswert.“
Dr. Eric Schulz

Gab es ein prägendes Erlebnis in Ihrer Laufbahn, das Sie besonders geprägt hat?

ES: Als studentische Hilfskraft arbeitete ich am Max-Planck-Institut von Gerd Gigerenzer in Berlin. Neben vielen anderen Dingen war ich sehr beeindruckt von der freundlichen, interaktiven und inklusiven Umgebung, die Gerd und seine Kollegen geschaffen hatten. Bis heute versuche ich, eine meine Gruppe zu haben, die so lebendig, freundlich und vielfältig ist wie die Gruppe von Gerd damals zu gestalten.

Veraten Sie uns ein Geheimnis von Ihnen?

ES: Ein kleines Geheimnis über mich ist, dass ich ursprünglich Schriftsteller werden wollte. Als ich 17 Jahre alt war, nahm ich sogar an einer öffentlichen Lesung von Gedichten teil, die ich geschrieben hatte, die alle ziemlich prätentiös waren. Obwohl mein Karriereweg mich letztlich zur Psychologie und KI-Forschung führte, inspiriert mich meine Leidenschaft für das Erzählen von Geschichten und das Verstehen der menschlichen Erfahrung weiterhin in meiner Arbeit.

Letzte Aktualisierung: Mai 2024

About Dr. Eric Schulz

  • Seit 2024: Direktorin am Institute for Explainable Machine Learning, Helmholtz Munich und Liesel Beckmann Distinguished Professorin für Informatik an der Technischen Universität München
  • 2019 – 2023: Professorin für Informatik, Universität Tübingen
  • 2020 – 2023: Senior Wissenschaftlerin am Max Planck Institute for Intelligent Systems
  • 2017 – 2023: Senior Gruppenleiterin am Max Planck Institute for Informatics
  • 2017 – 2019: Dozentin an der Universität Amsterdam
  • 2016 – 2017: Post Doctoral Wissenschaftlerin an der UC Berkeley
  • 2014 – 2017: Post Doctoral Wissenschaftlerin am Max Planck Institute for Informatics
  • 2014: PhD, Universität Grenoble, France