Erst mal zu dir. Wer bist du und wie bist du ans Institut gekommen?

Ich bin Dan Eisenkrämer und bin im September 2022 über ein Praktikum im Rahmen meines Studiengangs Informatik ans Institut gekommen. Nach dem Praktikum bin ich dann als studentische Hilfskraft am Institut geblieben und habe meine Bachelorarbeit bei Professor Bernd Lüdemann-Ravit gemacht. Die Masterarbeit habe ich dann bei Professor Jochen Staudacher absolviert, dessen Fachgebiete unter anderem Operations Research und Statistik sind. Aus den Ergebnissen aus meiner Bachelor- und Masterarbeit und dem, was ich generell am Institut mache, ist jetzt auch mein Promotionsvorhaben entstanden. 

Und wie bist du zu deinem Masterthema gekommen?

Im Masterstudium muss man eine Projektarbeit machen. Es waren unterschiedliche Themen ausgeschrieben, unter anderem die kooperative Spieltheorie, die ich eh schon interessant fand. Dazu hatte ich auch ein paar Module im Master. Das Thema hat mir dann Spaß gemacht und daraus hat sich dann auch das größere Forschungsthema ergeben. 

Erkläre uns doch kurz, worum es in deiner Masterarbeit geht.

Meine Masterarbeit beschäftigt sich mit der kooperativen Spieltheorie. Dabei handelt es sich ursprünglich um ein theoretisches Konzept aus der mathematischen Ökonomie, das aber immer mehr praktische Anwendungen findet, z.B. in den Bereichen Logistik, Bioinformatik und Künstliche Intelligenz. Die Theorie beschäftigt sich mit der Frage, wie der Gewinn einer Aufgabe fair auf alle Spieler, oder auch Agenten, aufgeteilt werden kann. Ein großer Punkt der kooperativen Spieltheorie ist es, die Verteilung so geschickt zu wählen, dass hinterher alle Agenten weiterhin motiviert sind zusammenzuarbeiten, ohne dass sich kleinere Gruppen bilden. 

In welchen Bereichen siehst du konkrete Anwendungsmöglichkeiten für kooperative Spieltheorie?

Die Frage nach dem Beitrag einzelner Akteure ist in vielen Kontexten relevant, besonders aber aktuell in der Künstlichen Intelligenz und vor allem in der Explainable AI. Viele KI-Modelle sind „Black Boxes“, das heißt sie liefern Ergebnisse, aber man weiß nicht, wie sie zu diesem Ergebnis gekommen sind. Künstliche Intelligenz ist in industriellen Anwendungen jedoch nur dann nachhaltig und anwendbar, wenn man erklären kann, warum die KI ihre Vorschläge macht. Mit Explainable AI können KI-Entscheidungen für Menschen nachvollziehbarer gemacht werden, wobei die kooperative Spieltheorie da eine Methode ist. Gerade der Shapley-Wert spielt hier eine zentrale Rolle, da er eine faire und vollständige Verteilung des Gesamtgewinns auf mehrere Akteure ermöglicht.

Dies ist besonders wichtig bei neuronalen Netzen. Wenn ein Modell eine Vorhersage trifft, zum Beispiel mit 90 % Genauigkeit, stellt sich die Frage, welchen Beitrag haben die einzelnen Knoten zu diesem Ergebnis beigetragen? Da spielt eben der Shapley-Wert oder genauer gesagt die heuristische Bestimmung des Shapley-Werts eine große Rolle. 

Die Berechnung ist allerdings anspruchsvoll, da die Laufzeit exponentiell mit der Anzahl der Agenten bzw. Knoten steigt, was die effiziente Umsetzung zu einem zentralen Thema macht. 

Du hast dich in deiner Masterarbeit mit unterschiedlichen Darstellungsformen beschäftigt. Kannst du uns diese genauer beschreiben?

Bei vielen Agenten wird es schnell unübersichtlich. Aus diesem Grund habe ich mich in meiner Masterarbeit mit zwei Darstellungsformen und ihren Varianten beschäftigt, die helfen, Spiele mit spezieller Struktur kompakter und effizienter darzustellen.  

Statt die Gewinne für jede Koalition einzeln aufzulisten, kann man zum Beispiel Algebraic Decision Diagrams nutzen, die ähnlich wie ein Entscheidungsbaum funktionieren, bei dem Knoten zusammengelegt werden können, wenn sie dasselbe Ergebnis liefern. 

Daneben habe ich mir noch Marginal Contribution Networks angeschaut, die über logische Regeln funktionieren: Wenn bestimmte Bedingungen erfüllt sind, summieren sich Werte zum Koalitionswert. 

In der Masterarbeit ging es darum, diese Darstellungsformen zu vergleichen, einerseits wie groß werden sie bei komplexeren Spielen, andererseits wie schnell lässt sich der Shapley-Wert berechnen. 

Was waren deine Ergebnisse aus dem Vergleich?

Das Ergebnis war interessant. Algebraic Decision Diagrams sind für diesen Anwendungsfall zwar eher unbekannt, bieten aber gute Möglichkeiten bei Spielen mit vielen Symmetrien zwischen den Spielern. Vereinfacht gesagt wie ein Kochplan für eine Küche, in der viele Köche ähnliche Aufgaben haben und ständig zusammenarbeiten. Wenn viele Schritte gleich sind und die Köche ihre Arbeit stark koordinieren, kann man den Plan vereinfachen, da ein Arbeitsschritt für viele gleichzeitig gilt. Je ähnlicher die Spieler also sind und je mehr Verbindungen sie zueinander haben, desto kompakter wird die Darstellung und desto schneller lassen sich die Werte berechnen. 

Marginal Contribution Networks dagegen funktionieren besser, wenn die Agenten wenige Überschneidungen haben oder additive Werte liefern, vergleichbar mit einer Küche, in der jeder Koch sein eigenes Gericht zubereitet und unabhängig zum Buffet beiträgt. Hier reicht es, den Beitrag jedes Agenten einzeln zu betrachten.

Welchen fachlichen Mehrwert deiner Erkenntnisse siehst du für den konkreten Technologietransfer?

Es lohnt sich nicht, nur ein rein theoretisches Problem voranzutreiben, denn wir sind darauf angewiesen, gemeinsam mit Unternehmen reale Herausforderungen zu bearbeiten und genau daran werde ich im Rahmen meiner Promotion arbeiten. Dabei müssen Unternehmen keinerlei Vorkenntnisse in kooperativer Spieltheorie haben. Es reicht, wenn Interesse besteht, zu prüfen, was mit KI möglich ist. Grundlegend geht es darum, KI-gestützte Entscheidungen für Menschen nachvollziehbarer zu machen und die Hemmschwelle für ihren Einsatz zu reduzieren. 

Gibt es etwas, auf das du dich gerne noch tiefer fokussieren willst, weil es in deiner Masterarbeit keinen Platz mehr gefunden hat?

Das ist eine gute Frage. Während der Masterarbeit kamen immer wieder Ideen auf, die aber einfach nicht mehr in den Rahmen gepasst hätten. Im Grunde waren es drei größere Themenfelder. Zum einen hätte ich mir gerne die Umwandlung zwischen den verschiedenen Darstellungsformen genauer angeschaut, eine bessere Heuristik oder sogar ein optimaler Algorithmus dafür wäre im Grunde eine eigene Masterarbeit. Ich hätte mich auch gerne mehr mit der Parallelisierung der Shapley-Wert-Berechnung beschäftigt, das hat aber nicht mehr in die schriftliche Arbeit gepasst. Und dann wäre es natürlich spannend, Algebraic Decision Diagrams auf andere Spieltypen auszuweiten und sie breiter anwendbar zu machen. Also nicht nur einen Vergleich zu ziehen, sondern sie tatsächlich stärker zu etablieren. Es gibt auf jeden Fall noch viel Potenzial und genug Stoff für weitere Arbeiten.

Wenn du im Nachhinein auf deinen Prozess blickst, würdest du gerne etwas anders machen?

Ich denke, ich würde tatsächlich nichts ändern. Vor meinem ersten Treffen mit meinem Betreuer habe ich mich eine halbe Stunde hingesetzt und mir einen Zeitplan erstellt. Ich habe definiert, was ich am Ende eines Monats erreichen will, und haben mir dann hinten raus noch Puffer zum Korrekturlesen eingebaut. Alle zwei Wochen habe ich mich dann mit meinem Betreuer getroffen. Da war es mir wichtig, immer ein bisschen zu zeigen, was ich geschafft habe, selbst wenn es nur eine kleine Erkenntnis oder eine Fragestellung war. Dieser Ansatz hat mir tatsächlich extrem geholfen und ich habe den Zeitplan eigentlich komplett eingehalten.

Was hat die am meisten Freude an der Arbeit bereitet?

Ich glaube am meisten Spaß gemacht, hat mir das Ausprobieren und Knobeln. Zusätzlich programmiere ich auch einfach sehr gerne. KI kann einem zwar Vorschläge machen, wie man etwas implementiert, aber auf die tatsächliche Methodik und den Algorithmus muss man selbst kommen. Außerdem liegt mir das mathematische Feld einfach. Wie man da letztendlich was mathematisch Theoretisches, praktisch implementieren und umsetzen kann. Und jetzt bin ich eben auch sehr gespannt, das ganze mit realen Problemen zu verheiraten. 

Zum Abschluss, hast du vielleicht einen Tipp für zukünftige Masterstudenten?

Gerade im Informatik Masterstudium hat man die Chance, sich Themen gezielter auszusuchen. Nutzt diese Chance, um ein Thema zu finden, an dem ihr Spaß habt. Außerdem habt keine Angst vor eurer Masterarbeit oder der Forschung gesamt. Nach dem Masterstudium fühlt man sich nicht plötzlich wie ein ganz anderer Mensch oder als sei man auf einer ganz neuen wissenschaftlichen Ebene angekommen. Gerade auf Konferenzen merkt man, dass alle nur mit Wasser kochen. Die meisten haben einfach an einem Thema gearbeitet, das sie interessiert hat, und daraus ist dann eine Veröffentlichung oder Abschlussarbeit entstanden. Am Anfang klingt das alles groß und einschüchternd, aber irgendwann merkt man: Ich mache ja gerade selbst Forschung! Und zum Schluss: Habt Spaß an Mathe und an kooperativer Spieltheorie. Lasst euch von Formeln nicht abschrecken. Wenn man sich einarbeitet, merkt man, dass sie machbar sind.

Das Interview führte: Amira Eser, studentische Mitarbeiterin am Institut für Produktion und Informatik Sonthofen

Ansprechpartnerin bei Fragen: 
Steffi Nickol, Operative Leitung IPI, steffi.nickol(at)hs-kempten.de, 0831/ 2523-9225