Neues Verbundprojekt: Künstliche Intelligenz, die kausale Zusammenhänge erkennt

Herausforderung: Von Korrelation zu Kausalität

Bisherige Machine-Learning-Modelle basieren überwiegend auf Korrelationen, nicht auf kausalen Zusammenhängen. Anders ausgedrückt: Sie treffen Vorhersagen auf Grundlage von Wahrscheinlichkeiten, ohne echte Ursachen zu erkennen. Das führt in einigen Bereichen zu Einschränkungen und kann die Leistung der Modelle beeinträchtigen.

"Die momentane Leistungsfähigkeit von trainierten Modellen ist bereits unglaublich beeindruckend. In bestimmten Anwendungsbereichen sind wir jedoch besonders an kausalen Fragestellungen oder kausalen Abstraktionen interessiert – daran, wie diese Modelle funktionieren und wie wir sie manipulieren oder steuern können," erläutert Prof. Stefan Bauer, Helmholtz AI-Wissenschaftler bei Helmholtz Munich und einer der Projektpartner von CausalNet.

Auch in der medizinischen Anwendung ist das Potenzial von Künstlicher Intelligenz dadurch begrenzt, dass die Programme keine kausalen Zusammenhänge herstellen können. Mit einem Modell, dass Ursache und Wirkung miteinander verknüpft, könnte man gezieltere Therapieentscheidungen treffen. Ähnliches gilt für Anwendungsbereiche in Wissenschaft, Wirtschaft und öffentlichem Sektor.

Forschen im Verbund für ein neues KI-Paradigma

 „Wir wollen neuartige Methoden zur Integration von Kausalität in Machine-Learning-Modelle entwickeln“, sagt Professor Stefan Feuerriegel. Er ist Leiter des Institute of Artificial Intelligence in Management der Ludwig-Maximilians-Universität (LMU) und Sprecher von CausalNet. Um das Prinzip von Ursache und Wirkung in künftige KI-Modelle zu integrieren, arbeiten Expert:innen von LMU, Helmholtz AI, der Technischen Universität München (TUM), dem Karlsruher Institut für Technologie sowie der Economic AI GmbH zusammen.

„Die Fähigkeit, kausale Zusammenhänge in KI-Modelle zu integrieren, ist der Schlüssel, um langfristig vertrauenswürdige, faire und ethisch vertretbare Entscheidungen in komplexen Systemen zu ermöglichen“, sagt Prof. Niki Kilbertus, der bei Helmholtz Munich eine Forschungsgruppe für Helmholtz AI leitet. „Echte kausale Erklärungen sind entscheidend, um Verzerrungen und unfaire Muster zu vermeiden, die häufig auftreten, wenn Modelle lediglich Korrelationen erkennen. Durch die Berücksichtigung von Kausalität können wir nicht nur die Genauigkeit, sondern auch die Transparenz von KI-Entscheidungen verbessern – ein unverzichtbarer Schritt, um KI in der Gesellschaft verantwortungsvoll einzusetzen.“

Die einzigartigen Herausforderungen des kausalen Maschinellen Lernens in hochdimensionalen Umgebungen will das Team mithilfe von Werkzeugen aus dem Repräsentationslernen, der Theorie der statistischen Effizienz und spezifischen maschinellen Lernparadigmen bewältigen. „Darüber hinaus werden wir die Effektivität und Robustheit unserer Methoden mit theoretischen Ergebnissen herleiten“, so KI-Experte Feuerriegel. Dies sei wichtig, um die Zuverlässigkeit der vorgeschlagenen Methoden sicherzustellen. „Dann bringen wir kausales Maschinelles Lernen in die reale Anwendung und demonstrieren den konkreten Nutzen für die Wirtschaft, den öffentlichen Sektor und wissenschaftliche Entdeckungen.“

Open-Source für breite Anwendung

Die praktische Nutzung und Weiterentwicklung will CausalNet weiter fördern, indem es die entwickelten Softwares, Tools und Ergebnisse nach dem Opern-Source-Prinzip öffentlich zugänglich macht. „In den nächsten drei Jahren werden wir Maschinelles Lernen auf ein neues Level heben und KI-Anwendungen flexibler, effizienter und robuster machen“, sagt Feuerriegel.