Bernstein Netzwerk Computational Neuroscience
  • Home
  • Netzwerk
    • Das Bernstein Netzwerk
    • Bernstein Zentren
      • Berlin
      • Freiburg
      • Göttingen
      • München
      • Tübingen
      • Heidelberg-Mannheim
    • Forschungsinfrastruktur
      • High Performance Simulation and Data Analysis
      • Forschungsdaten-Management
      • Wissenschaftskommunikation
      • Wissenschaftskoordination
    • Preise und Initiativen
      • Valentin Braitenberg Award
      • Brains for Brains Nachwuchspreis
      • Bernstein SmartSteps
    • Gremien des Netzwerks
    • Satzung
    • Mitgliedschaft
    • Historie
    • Spenden
    • Kontakt
  • Newsroom
    • Newsroom
    • Aktuelles
    • Meet the Scientist
    • Veranstaltungen
    • Ausschreibungen
    • Medienecho
    • Presse
    • Publikationen des Netzwerks
    • Bernstein Bulletin
  • Forschung und Lehre
    • Forschung und Lehre
    • Wissenschaftler:innen finden
    • Studienprogramme
      • Masterprogramme
      • Promotionsprogramme
    • Studienangebote
      • Bernstein Student Workshop Series 2023
      • Online Learning
      • Kurse für Fortgeschrittene
      • Praktika und Abschlussarbeiten
    • Ethos des Bernstein Netzwerks
  • Karriere
    • Karriere
    • Stellenangebote
    • Verstärken Sie unser Team
  • Bernstein Conference
    • Bernstein Conference
    • General Information
      • Code of Conduct
      • Data Policy
      • PR Media Policy
      • Past Conferences
  • DE
  • EN
  • Suche
  • Menü Menü
Sie sind hier: Startseite1 / Newsroom2 / Meet the Scientist3 / Der Weg zur transparenten KI
Jülich – 12. März 2020

Der Weg zur transparenten KI

Moritz Helias vom Forschungszentrum Jülich arbeitet mit einem interdisziplinären Team daran, mehr Licht in die „Black Box“ der KI zu bringen. In einem Interview erklärt er worum es in seinem Projekt genau gehen wird.

© Forschungszentrum Jülich

/FZJ/ Im Schach, Poker und Go hat künstliche Intelligenz (KI) die Menschheit längst überflügelt. Auch Röntgenbilder oder Aktienkurse analysiert sie bereits ähnlich gut – und teilweise sogar besser – als ein Experte aus Fleisch und Blut. Doch bis jetzt ist es für einen Menschen oft kaum nachvollziehbar, wie sie zustande kommen. Moritz Helias vom Forschungszentrum Jülich arbeitet mit einem interdisziplinäres Team daran, mehr Licht in die „Black Box“ der KI zu bringen, ein Vorhaben, das vom BMBF mit 2 Millionen Euro gefördert wird.

Forschungszentrum Jülich (FZJ): Herr Helias, auch wie ganz gewöhnliche Computeranwendungen funktionieren, ist für einen Laien oft nicht klar. Wieso ist mangelnde Transparenz gerade im Bereich der KI ein Problem?

Bei traditionellen Anwendungen ist meist ganz genau definiert, wo welche Informationen gespeichert und wie diese im Zuge der Berechnung verwendet werden. Diese Modelle sind teilweise sehr komplex: beispielsweise Wetter- oder Klimamodelle. Trotzdem lässt sich die Berechnung Schritt für Schritt ganz exakt nachvollziehen. Man kann genau abschätzen, welche Folgen es hat, wenn man diesen oder jenen Parameter verändert.

Bei Anwendungen im Bereich der KI ist das anders. Diese sind tatsächlich meist wie eine Black Box. Speziell im Bereich des Deep Learning, bei dem die Information letztlich in Millionen trainierter Parameter gespeichert ist. Diese Anwendungen basieren auf künstlichen neuronalen Netzen, die nach dem Vorbild der natürlichen neuronalen Netze im Gehirn aufgebaut sind. Diese künstlichen neuronalen Netze bestehen aus mehreren Schichten von vernetzten künstlichen Neuronen und „lernen“ anhand großer Datensätze, aus einem Input ein bestimmtes Ergebnis oder eine bestimmte Vorhersage abzuleiten. Die Informationen werden hier nicht an einem bestimmten Ort gespeichert, sondern sie bestehen in der Stärke der Verbindung zwischen künstlichen Neuronen. Welche Merkmale der Daten letztlich zu einer Entscheidung führen, kann bisher niemand genau sagen.

FZJ: Wo wäre in der Praxis mehr Transparenz wünschenswert?

Tatsächlich ist die fehlende Transparenz in vielen Bereichen eigentlich kein Problem. Beispielsweise wenn es darum geht, im Internet bestimmte Produkte vorzuschlagen, Sprachbefehle zu verstehen oder die Fotosammlung am PC zu sortieren. Aber in manchen sensiblen Bereichen will man doch gerne einen Einblick haben und verstehen, wie die Entscheidungen zustande kommen.

Besonders wichtig ist das natürlich im medizinischen Bereich. Beispielsweise um besser nachvollziehen zu können, aus welchen Gründen eine Anwendung mit KI eine Empfehlung für einen chirurgischen Eingriff abgibt oder sich dagegen entscheidet. Das Gleiche gilt natürlich auch für Assistenzsysteme mit KI, die an Operationen beteiligt sind und den Chirurgen oder die Chirurgin unterstützen.

Transparenz ist aber auch ganz grundsätzlich von Bedeutung: Nur wenn man die Ursachen kennt, kann man Fehlentscheidungen einer KI gezielt korrigieren. Manchmal passieren mit Methoden der künstlichen Intelligenz recht offensichtliche Fehler; bekannt sind beispielsweise falsche Bildinterpretationen durch KI. Solche Fehler können gravierende Folgen haben, wenn sie zum Beispiel bei selbstfahrenden Autos auftreten. Oder wenn sich die KI „austricksen“ lässt und dann bei einer Zugangskontrolle versagt.

FZJ: Wie wollen Sie in Ihrem neuen Forschungsprojekt mehr Transparenz schaffen?

Im Kern greift das Projekt auf die sogenannte Renormierungsgruppe zurück, daher kommt auch der Name „RenormalizedFlows“. Die Methodik gilt als eine der größten Errungenschaften der theoretischen Physik im 20. Jahrhundert. Sie wurde speziell entwickelt, um Prozesse zu analysieren, die sich erst aus dem Zusammenspiel einer Vielzahl von Teilprozessen ergeben. Am Projekt beteiligt sind deshalb Physiker um Carsten Honerkamp von der RWTH Aachen, die auf diesem Gebiet langjährige Expertise besitzen. Dazu kommen Experten aus mehreren anderen Fachbereichen: Das sind zum einen Neurowissenschaftler und Mediziner um Tonio Ball von der Uniklinik Freiburg, aber auch Informatiker um Frank Hutter, einer der weltweit führenden Experten für Strukturoptimierung neuronaler Netzwerke. Einen starken Anwendungsbezug bekommt das Projekt durch die Expertise für Hardware und Softwarelösungen der medizinischen Diagnostik von Frank Zanow und Patrique Fiedler des beteiligten Unternehmens eemagine Medical Imaging Solutions GmbH.

FZJ: Worum geht es bei Ihrem Ansatz konkret?
Moritz Helias, RWTH Aachen, © Peter Winandy

Moritz Helias, RWTH Aachen, © Peter Winandy

Tiefe neuronale Netzwerke bestehen aus einer Hintereinanderschaltung vieler Schichten von Neuronen. In diesen Schichten werden eingehende Daten Schritt für Schritt zerlegt. Aber diese Zerlegung ist so komplex, dass sie für einen Menschen nicht direkt nachvollziehbar ist.

Die eingangs erwähnte Renormierungsgruppe wollen wir im Projekt mit einer weiteren, noch relativ neuen Entwicklung kombinieren: den invertierbaren, das heißt umkehrbaren tiefen Netzwerken. Diese Netzwerke erlauben es, die zugrundeliegenden Ursachen in den Daten sichtbar zu machen. Und sie machen es möglich, den gesamten Prozess umzukehren. So wird es theoretisch möglich, die plausibelsten Daten zu errechnen, die zu einem bestimmten Ergebnis oder einer bestimmten Ursache gehören. Das ist enorm wichtig. Auf diese Weise kommt man zu Entscheidungen, deren Ursachen direkt überprüfbar, also für den Menschen nachvollziehbar werden.

FZJ: Welche Anwendungen haben Sie im Fokus?

In unserem Projekt geht es vor allem um Grundlagenforschung. Im Mittelpunkt steht dabei die Analyse von Elektroenzephalografie-Daten (EEG). Dabei arbeiten wir etwa mit Tonio Ball von der Universität Freiburg zusammen, der KI-Systeme als mögliche Diagnosehilfe zur Erkennung von Krankheiten wie Epilepsie sieht.

EEG-Signale spielen aber auch für die Steuerung von Prothesen eine Rolle. KI-Systeme helfen dabei, die Hirnsignale in Steuerungsbefehle zu übersetzen. Damit das nicht nur im Labor, sondern auch im Alltag funktioniert, muss man manche Störquellen gezielt ausschalten. Lichtschalter können beispielsweise ganz ähnliche Signalmuster hervorrufen wie die Gehirnsignale, die man zur Steuerung der Prothese verwendet. Damit es beim Bedienen eines Schalters nicht zu einer Fehlfunktion kommt, muss man diese Störsignale gezielt ausschließen. Dies ist auch ein weiteres Ziel des Projekts.

>> zum originalen Interview

Weitere Informationen:

Bilder dürfen mit Quellenangabe für die redaktionelle anlassbezogene Berichterstattung verwendet werden.

Weiterführende Verlinkungen

Webseite INM-6 / IAS-6

> mehr

Der Weg zur transparenten KI

6. August 2020/von Sean Kaltenbacher

Kontakt Meet the Scientist

Kontakt

Prof. Dr. Moritz Helias

Institut für Neurowissenschaften und Medizin, Computational and Systems Neuroscience (INM-6 / IAS-6)
Forschungszentrum Jülich GmbH
Wilhelm-Johnen-Straße
52428 Jülich

+49 2461 61-9647
m.helias@fz-juelich.de

Bernstein Netzwerk Computational Neuroscience Logo

Mitglied werden
Satzung
Spenden
Newsletter abonnieren

 

Folgen Sie uns

Mastodon
© 2023 Bernstein Netzwerk Computational Neuroscience
  • Kontakt
  • Impressum
  • Datenschutz
Nach oben scrollen
Cookie-Zustimmung verwalten
Wir verwenden Cookies, um unsere Website und unseren Service zu optimieren.
Funktional Immer aktiv
Der Zugriff oder die technische Speicherung ist unbedingt für den rechtmäßigen Zweck erforderlich, um die Nutzung eines bestimmten Dienstes zu ermöglichen, der vom Abonnenten oder Nutzer ausdrücklich angefordert wurde, oder für den alleinigen Zweck der Übertragung einer Nachricht über ein elektronisches Kommunikationsnetz.
Vorlieben
Die technische Speicherung oder der Zugriff ist für den rechtmäßigen Zweck der Speicherung von Voreinstellungen erforderlich, die nicht vom Abonnenten oder Nutzer beantragt wurden.
Statistiken
Die technische Speicherung oder der Zugriff, der ausschließlich zu statistischen Zwecken erfolgt. Die technische Speicherung oder der Zugriff, der ausschließlich zu anonymen statistischen Zwecken verwendet wird. Ohne eine Aufforderung, die freiwillige Zustimmung Ihres Internetdienstanbieters oder zusätzliche Aufzeichnungen von Dritten können die zu diesem Zweck gespeicherten oder abgerufenen Informationen allein in der Regel nicht zu Ihrer Identifizierung verwendet werden.
Marketing
Die technische Speicherung oder der Zugriff ist erforderlich, um Nutzerprofile zu erstellen, um Werbung zu versenden oder um den Nutzer auf einer Website oder über mehrere Websites hinweg zu ähnlichen Marketingzwecken zu verfolgen.
Optionen verwalten Dienste verwalten Anbieter verwalten Lesen Sie mehr über diese Zwecke
Einstellungen
{title} {title} {title}