Offene PhD Stelle mit der Robustheit von explainable AI als Forschungsschwerpunkt

Wir bieten ab sofort eine 100% Stelle als PhD Student an, die durch ein Projekt beim BMBF finanziert wird. Das Ziel des Projektes ist es, die mathematische Robustheit und psychologische Effektivität von explainable AI (xAI) Ansätzen einschätzen zu können. Wir arbeiten dazu mit einem Team von Psychologen und dem Projektleiter Alexander Wilhelm am DFKI zusammen.

Wir suchen nach freundlichen, engagierten und offenen Forscher:innen, die Interesse daran haben, sich mit diskreter Mathematik auseinanderzusetzen und Schlupflöcher zu finden, die Manipulation möglich machen. Wir werden Entscheidungsbäume als Surrogatmodel und Shapley Values als Maß für den Einfluss verschiedener Faktoren auf eine Entscheidung untersuchen. Beide Ansätze werden benutzt, um herauszufinden, welche kausalen Einflussfaktoren für eine Entscheidung von KI-Systemen wichtig sind – insbesondere soll dadurch Diskriminierung erkannt werden können. Wir haben bereits gezeigt, dass Entscheidungsbäume so manipuliert werden können, dass Diskriminierung unerkannt bleibt. Ab 2025 wollen wir Shapley Values auf dieselbe Art untersuchen.

Unsere Ergebnisse werden Einfluss auf die gesetzlichen Anforderungen an xAI Ansätze und damit auch auf unsere Gesellschaft haben.

Das AALab ist eine diverse Gruppe engagierter Wissenschaftler:innen, die sich für dafür interessieren, wie algorithmische Entscheidungssysteme funktionieren und welche Konsequenzen sie für unsere Gesellschaft haben. Wir suchen für diese Stelle eine freundliche, offene Person, die engagiert arbeitet und zu unserem Team beitragen möchte.

Schick bei Interesse deine Bewerbung an den Projektleiter, Alexander Wilhelm, unter alexander.wilhelm@dfki.de

---