Künstliche Neuronen organisieren sich selbst
Neuartige künstliche Neuronen lernen selbst und sind stärker ihren biologischen Vorbildern nachempfunden. Ein Forschungsteam in Göttingen hat diese infomorphic neurons programmiert und aus ihnen künstliche neuronale Netze konstruiert. Das Besondere ist, dass die einzelnen künstlichen Neuronen selbstorganisiert lernen und sich die dafür notwendigen Informationen aus ihrer unmittelbaren Umgebung im Netzwerk ziehen. Die Ergebnisse sind in der Fachzeitschrift PNAS erschienen.
Lebende Neuronen nehmen Signale aus unterschiedlichen Quellen auf, verarbeiten diese und geben ein Ausgangssignal an andere Neuronen weiter (links). Im künstlichen Neuronenmodell kann diese Informationsverarbeitung durch ein Lernziel beschrieben und verbessert werden (rechts). Ähnlich zu ihren biologischen Vorbildern erlaubt dieses unabhängige Lernen neuartigen künstlichen Neuronen, selbstorganisiert Aufgaben zu lösen. Foto: Andreas Schneider
Beteiligte Bernstein Mitglieder: Marcel Graetz, Viola Priesemann, Michael Wibral
Neuartige künstliche Neuronen lernen selbst und sind stärker ihren biologischen Vorbildern nachempfunden. Ein Team aus Forschenden des Göttingen Campus Instituts für Dynamik biologischer Netzwerke (CIDBN) der Universität Göttingen und des Max-Planck-Instituts für Dynamik und Selbstorganisation (MPI-DS) hat diese infomorphic neurons programmiert und aus ihnen künstliche neuronale Netze konstruiert. Das Besondere ist, dass die einzelnen künstlichen Neuronen selbstorganisiert lernen und sich die dafür notwendigen Informationen aus ihrer unmittelbaren Umgebung im Netzwerk ziehen. Die Ergebnisse sind in der Fachzeitschrift PNAS erschienen.
Sowohl das menschliche Gehirn als auch moderne künstliche neuronale Netze sind extrem leistungsfähig. Auf unterster Ebene arbeiten die Neuronen dabei als vergleichsweise einfache Recheneinheiten zusammen. Ein künstliches neuronales Netz besteht typischerweise aus mehreren Schichten, die sich aus einzelnen Neuronen zusammensetzen. Durch diese Schichten geht ein Eingangssignal, das die künstlichen Neuronen weiterverarbeiten, um relevante Informationen auszulesen. Allerdings unterscheiden sich herkömmliche künstliche Neuronen in ihrer Lernweise stark von ihren biologischen Vorbildern. Während die meisten künstlichen neuronalen Netze auf eine übergeordnete Koordination außerhalb des Netzwerkes angewiesen sind, um zu lernen, empfangen und verarbeiten biologische Neuronen lediglich Signale von anderen Neuronen aus ihrer direkten Umgebung im Netzwerk. Dabei sind biologische neuronale Netze den künstlichen sowohl in Bezug auf Flexibilität als auch Energieeffizienz nach wie vor weit überlegen.
Die neuartigen künstlichen Neuronen, sogenannte infomorphic neurons, sind in der Lage, selbstständig zu lernen und sich untereinander selbst zu organisieren. Das heißt, dass die kleinste Einheit im Netz nicht mehr von außen gesteuert werden muss, sondern selbst entscheidet, welcher Input relevant ist und welcher nicht. Bei der Entwicklung der infomorphic neurons ließ sich das Team von der Funktionsweise des Gehirns inspirieren, speziell von den Pyramidenzellen in der Großhirnrinde. Auch diese verarbeiten Reize aus verschiedenen Quellen in ihrer direkten Umgebung und nutzen sie, um sich anzupassen und zu lernen. Die neuen künstlichen Neuronen verfolgen dabei sehr generelle, einfach zu verstehende Lernziele: „Damit lässt sich direkt nachvollziehen, was im Inneren des Netzes passiert und wie die einzelnen künstlichen Neuronen selbständig lernen“, hebt Marcel Graetz vom CIDBN hervor.
Indem sie die Lernziele definierten, ermöglichten die Forschenden den Neuronen, selbst die konkreten Regeln zu finden, nach denen sie lernen. So stellte das Team das Lernen an jedem einzelnen Neuron in den Mittelpunkt. Hierfür nutzten sie ein neuartiges Maß der Informationstheorie, mithilfe dessen sie exakt einstellten, ob ein Neuron mehr Redundanz mit seinen Nachbarn anstreben soll, synergetisch zusammenarbeiten soll oder versuchen soll, sich auf einen eigenen Teil der Information des Netzwerkes zu spezialisieren. „Durch diese Spezialisierung auf bestimmte Aspekte des Inputs und der Koordination mit den Nachbarn erkennen unsere infomorphic neurons, wie sie ihren Teil zur Gesamtaufgabe des Netzwerks beitragen können“, erläutert Valentin Neuhaus vom MPI-DS. Mit den infomorphic neurons entwickelt das Team nicht nur eine neuartige Methode für maschinelles Lernen, sondern trägt mit seiner Forschung auch dazu bei, das Lernen im Gehirn besser zu verstehen.
