Sprachverarbeitung: Gehirn und KI arbeiten mit Vorhersagen
Bereits beim Zuhören versucht das Gehirn, die nächsten Worte zu antizipieren. Dies hat eine aktuelle Studie eines interdisziplinären Forschungsteams um PD Dr. Patrick Krauss, Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU), und PD Dr. Achim Schilling, Universität Heidelberg, ergeben. Dafür kombinierten die Forschenden drei Methoden: eine natürliche Hörsituation, hochauflösende Messungen der Hirnaktivität und ein KI-Sprachmodell als Referenz. Je wahrscheinlicher ein Wort im jeweiligen Kontext war, desto schwächer fiel die neuronale Reaktion bei seiner Verarbeitung aus. Gleichzeitig zeigten die Daten bereits vor Wortbeginn eine erhöhte Voraktivierung, was für ein prädiktives Gehirn spricht.
Dr. Achim Schilling (2. v. l.) und Dr. Patrick Krauss (3. v. l.) präsentieren ihre Forschung. Foto: privat
Beteiligtes Bernstein Mitglied: Patrick Krauss
Kommt der Mensch mit einem angeborenen grammatikalischen Grundgerüst zur Welt oder entwickelt sich Sprache aufgrund von Erfahrung und Nutzung? Eine Frage, über die sich linguistische Denkschulen nicht abschließend einigen können. In letzter Zeit befeuern diese Diskussion leistungsstarke KI-Sprachmodelle (Large Language Models), deren Sprachverarbeitung auf Vorhersage der nachfolgenden Worte beruht.
„In unserer Studie haben wir die natürliche, kontinuierliche Sprache eines Hörbuchs mit simultanen elektro- und magnetoenzephalographischen Messungen (EEG/MEG) kombiniert und die Hirnaktivität der Probanden direkt mit den Vorhersagewahrscheinlichkeiten großer Sprachmodelle verglichen – und das mit einer zeitlichen Auflösung im Millisekundenbereich“, erläutert Dr. Patrick Krauss.
Sind die Vorhersagen des Gehirns messbar?
Die Messergebnisse deuten darauf hin, dass das Gehirn bereits vor dem eigentlichen Wortbeginn aktiv wird. Die neuronale Reaktion fiel um so geringer aus, je wahrscheinlicher ein Wort im jeweiligen Kontext war. Demgegenüber lösten unerwartete Wörter stärkere neuronale Antworten aus. „Damit konnten wir nachweisen, dass das Gehirn Sprache aktiv vorhersagt. Diese Vorhersagen lassen sich messen und folgen ähnlichen Mustern wie in modernen Sprachmodellen“, erklärt Dr. Patrick Krauss.
Sprachmodelle basieren auf künstlichen neuronalen Netzen. Es handelt sich dabei um mathematische Informationsverarbeitungseinheiten, deren Architektur dem menschlichen Gehirn nachempfunden ist. Während biologische Nervensysteme mit elektrischen oder chemischen Signalen arbeiten, berechnen Sprachmodelle beziehungsweise deren Algorithmen Zahlenwerte.
„Besonders überrascht hat uns, dass sich zwischen Gehirn und Sprachmodellen nicht nur ähnliche Vorhersagen zeigen. Es verdichten sich Hinweise darauf, dass beide Systeme Sprache intern auf vergleichbare Weise organisieren“, sagt Patrick Krauss.
Arbeiten Gehirn und KI nach ähnlichen Prinzipien?
Damit untermauern die Studienergebnisse zentrale Annahmen der kognitiven Neurowissenschaft und liefern gleichzeitig eine Erklärung dafür, warum KI-Sprachmodelle in vielen Anwendungen so leistungsfähig sind.
„Die Tatsache, dass Gehirn und Sprachmodelle zu ähnlichen Ergebnissen kommen, bedeutet nicht automatisch, dass sie gleich funktionieren. Aber sie kann auf ähnliche Prinzipien der Informationsverarbeitung hinweisen“, betont Dr. Achim Schilling. „Die spannende Frage ist, warum zwei so unterschiedliche Systeme dennoch auf so identische sprachliche Organisationsformen konvergieren – ebenso wo die Grenzen dieser Konvergenz liegen“, ergänzt Dr. Patrick Krauss.
Was soll zukünftig erforscht werden?
Im nächsten Schritt möchte das Forschungsteam herausfinden, ob die gefundenen Prinzipien robust sind und sich auf konkrete Anwendungen übertragen lassen. „Wenn wir besser verstehen, wie Gehirn und Sprachmodelle Sprache repräsentieren und vorhersagen, könnten daraus langfristig neue Ansätze für Diagnostik, personalisierte Therapien, Gehirn-Computer-Schnittstellen oder besser erklärbare KI entstehen“, sagt Dr. Patrick Krauss.
