Moderne Fabriken, Heizungsanlagen oder Gewächshäuser werden zunehmend von künstlicher Intelligenz gesteuert. Oft versteht jedoch niemand mehr genau, warum die Software bestimmte Entscheidungen trifft. Das ist problematisch. Forschende der Technischen Universität Chemnitz haben eine Lösung enwickelt.
Ihr Verfahren wurde soeben auf einer der wichtigsten wissenschaftlichen Konferenzen der Welt angenommen: der International Conference on Machine Learning, kurz ICML. Von fast 24.000 eingereichten Beiträgen schafften es nur gut 6.300 in das Programm. Die TU Chemnitz ist mit ihrer Idee zur Regelungstechnik dabei.
Die Lösung aus Chemnitz
Das Team um Streif hat deshalb ein Verfahren entwickelt, das die Entscheidungen der Steuerungssoftware nachträglich erklärt. Dabei nutzt es sowohl physikalisches Wissen über den jeweiligen Prozess als auch Daten aus dem Betrieb der Anlage und Informationen darüber, wie einzelne Entscheidungen zusammenhängen. Damit liefern die Forschenden nun verlässliche Erklärungen für Entscheidungen, die bislang oft wie eine "Black Box" wirkten. Dadurch könnten Menschen die Vorschläge der Software besser verstehen und ihnen eher vertrauen.
In Tests an einem Gewächshaus, einer Wohngebäude-Heizungsanlage und einem industriellen Prozess verbesserte das Verfahren die Verständlichkeit der KI-Entscheidungen um 53 Prozent gegenüber anderen Ansätzen. Finanziert wird das Projekt über das Programm des Europäischen Sozialfonds Plus mit mehr als 2,13 Millionen Euro.
Die Annahme auf der ICML, sagt Streif, "unterstreicht die internationale Sichtbarkeit der Forschung zu vertrauenswürdiger und erklärbarer KI für ingenieurwissenschaftliche Anwendungen". Sieben Nachwuchsforschende aus vier Fakultäten der TU Chemnitz arbeiten in der Gruppe MORE-KIBA. Ihr Ziel: Maschinen sollen nicht nur klug sein, sondern auch erklären können, was sie tun.
Die Preprint-Version der Publikation gibt es hier.
