Beyond Explainable AI: Wojciech Samek und Klaus-Robert Müller veröffentlichen neues Buch über Erklärbare KI
Um die Potenziale Künstlicher Intelligenz voll auszuschöpfen, müssen ihre Entscheidungen nicht nur verstanden, sondern diese Erkenntnisse auch nutzbar gemacht werden. Diesem Ziel ist das neue Buch „xxAI - Beyond Explainable AI“ gewidmet. Herausgegeben wird es von Wojciech Samek, Abteilungsleiter Künstliche Intelligenz am Fraunhofer Heinrich-Hertz-Institut (HHI), und Klaus-Robert Müller, Professor für Maschinelles Lernen an der Technischen Universität Berlin (TUB) und Direktor bei BIFOLD. Die Publikation ist nach einem Workshop entstanden, der während der International Conference on Machine Learning 2020 stattfand. Zu den Mitherausgeber*innen gehören auch die KI-Experten Andreas Holzinger, Randy Göbel, Ruth Fong und Taesep Moon. Es ist bereits die zweite Veröffentlichung von Samek und Müller.
©Fraunhofer HHI
Beteiligtes Bernstein-Mitglied: Klaus-Robert Müller
Nachdem die Herausgeber mit ihrem ersten Buch “Explainable AI: Interpreting, Explaining and Visualizing Deep Learning” (2019) mit einem Überblick über Methoden und Anwendungen Erklärbarer KI (XAI) und über 300.000 Downloads weltweit großen Anklang in der wissenschaftlichen Gemeinschaft gefunden haben, geht ihre neue Veröffentlichung einen Schritt weiter. Sie gibt einen Überblick über aktuelle Trends und Entwicklungen auf dem Feld der XAI. So zeigt zum Beispiel das Team um Samek und Müller in einem Kapitel, dass XAI-Konzepte und XAI-Methoden, die für die Erklärung von Klassifikationsproblemen entwickelt wurden, auch auf andere Problemarten übertragbar sind. Bei der Lösung von Klassifikationsproblemen sind die gesuchten Zielvariablen kategorisch, das heißt bspw. „Welche Farbe hat die Ampel gerade, rot, gelb oder grün?“. Die Techniken aus der XAI-Forschung zur Arbeit an diesen Problemen lassen sich auch auf Unsupervised Learning, Reinforcement Learning oder generative Modelle anwenden. Die Autor*innen erweitern so den Horizont der bisherigen XAI-Forschung und geben Forschenden und Entwickler*innen eine Reihe neuer Tools an die Hand, mit denen sie eine ganz neue Bandbreite an Problemarten und Modellen erklärbar machen können.
Wie der Titel „Beyond Explainable AI“ suggeriert, werden zudem Lösungen aufgezeigt, wie die Erkenntnisse aus methodischen Aspekten praktisch angewendet werden können, um Modelle robuster und effizienter zu machen. Während sich die bisherige Forschung auf den Schritt von der KI als „Black Box“ hin zur Erklärung ihrer Entscheidungen konzentriert hat, gehen einige Kapitel im neuen Buch auf den nächsten Schritt, hin zum verbesserten KI-Modell, ein. Darüber hinaus reflektieren andere Autor*innen ihre Forschung nicht nur in ihrem eigenen Schaffensbereich, sondern auch im gesamtgesellschaftlichen Kontext. Dabei wird eine Vielzahl an Bereichen abgedeckt, die weit über die klassische XAI-Forschung hinausgehen. So geht es auch um die Zusammenhänge von Erklärbarkeit und Fairness, Erklärbarkeit und Kausalität sowie legale Aspekte von Erklärbarkeit. Das Buch steht frei zur Verfügung.
