Schnelle Informationsverarbeitung mit langsamen Neuronen

10.12.2021 15:26

Schnelle Informationsverarbeitung mit langsamen Neuronen

Berner Forschende haben eine Theorie entwickelt, die zeigt, wie das Gehirn extrem schnelle Abfolgen von Sinnesreizen effizient lernen kann. Dies geschieht viel schneller als bisher gedacht, wenn Neuronen (Nervenzellen) über einen Mechanismus verfügen, der ihnen erlaubt, die Zukunft «vorherzusagen». Die Berner Arbeit wurde an der weltweit bedeutendsten Tagung zu Künstlicher Intelligenz unter fast zehntausend eingereichten für eine Präsentation ausgewählt.

Die diesjährige NeurIPS-Konferenz (Conference on Neural Information Processing Systems) – seit Jahrzehnten das wichtigste Forum für Künstliche Intelligenz – hat die Arbeit des Berner Teams um Dr. Mihai Petrovici für einen Vortrag ausgewählt. Damit reiht sich dieser Beitrag unter die besten 1% aller fast zehntausend eingereichten Forschungsarbeiten aus diesem Jahr.

In ihrer Studie haben sich die Berner Forschenden mit der Frage beschäftigt, wie die tiefen, komplexen neuronalen Netzwerke im Gehirn lernen, Sinnesreize zu erkennen. «Man stelle sich vor, ein Kind sieht zum ersten Mal ein Velo», erklärt Paul Haider, der Erstautor der Studie. «Die Information fliesst von der Netzhaut im Auge über viele Neuronen bis zu einer Region im Hirn, in welcher sich Neuronen darauf spezialisieren, dieses neue Konzept eines Velos zu erfassen. Allerdings müssen nicht nur diese wenigen Neuronen lernen, Velos als solche zu erkennen. Auch alle Neuronen dazwischen müssen sich anpassen, um die visuelle Information möglichst effizient zu verarbeiten.»

Dieses Problem ist in der Hirnforschung als «credit assignment problem» bekannt: Welchen Beitrag leisten einzelne Neuronen zur Funktion des Netzwerks als Ganzes? Eine wesentliche Schwierigkeit dabei ist, dass Neuronen nicht beliebig schnell reagieren können: Bis Neuronen im Schläfenlappen auf das Bild eines Velos antworten, schaut das Auge möglicherweise bereits auf ein anderes Objekt in der Umgebung. Ohne eine Lösung für dieses Problem würden ständig falsche Assoziationen gelernt werden. Bislang gab es noch keine Erklärung dafür, wie unser Gehirn diese Herausforderung meistern könnte.

Neuronen, die in die Zukunft schauen

«Neuronen mögen langsam erscheinen, aber sie haben einen Trick», sagt Benjamin Ellenberger, ebenfalls Mitglied des Forscherteams. «Sie können die Änderungen, die sie wahrnehmen, verwenden, um ein Stück weit die unmittelbare Zukunft vorherzusagen. Es ist ein bisschen wie bei einer Autofahrt: Wenn ich weiss, wo ich gerade bin und mit welcher Geschwindigkeit ich fahre, kann ich jetzt schon ungefähr vorhersagen, wo ich in einer Stunde sein werde.» Die Langsamkeit von Neuronen kann dank dieser Fähigkeit kompensiert werden, und Signale können sich dadurch blitzschnell durch das Gehirn fortsetzen. Somit können sich weit auseinanderliegende Teile des Gehirns synchronisieren und dadurch korrekte zeitliche Assoziationen lernen. «Das Sehen und Erkennen eines Autos passiert nahezu gleichzeitig», erklärt Ellenberger weiter. «Das erlaubt uns, unseren Blick schnell von Objekt zu Objekt in unserer Umwelt springen zu lassen, ohne unsere Lernfähigkeit einzuschränken.»

Von biologischer zu künstlicher Intelligenz

Diese Idee hilft nicht nur dabei, Lernen im Gehirn zu verstehen, denn das Problem langsamer Informationsübertragung findet sich in allen physikalischen Systemen wieder und hat daher auch grosse Bedeutung für die Forschung im Bereich der Künstlichen Intelligenz (KI). Laura Kriener, eine weitere Koautorin der Studie, ist auch an der Entwicklung und Anwendung sogenannter neuromorpher Hardware beteiligt. «Moderne KI geht Hand in Hand mit Forschung in der Neurobiologie», sagt Kriener. «Neuromorphe Hardware vereinigt Aspekte beider Felder.» Diese neuartigen Chip-Architekturen enthalten Schaltkreise, die sich sehr ähnlich zu Neuronen im Gehirn verhalten. Der von den Forschenden vorgeschlagene Mechanismus eröffnet daher diesen ohnehin schnellen und energieeffizienten Systemen neue Möglichkeiten.

«Unsere bisherigen Ergebnisse sind nur der Anfang», sagt Mihai Petrovici. «Wir planen bereits eine enge Zusammenarbeit mit Kolleginnen und Kollegen aus verschiedenen Forschungslaboren, um die Vorhersagen unserer Theorie im Gehirn zu untersuchen, und um ihre Prinzipien in neuromorphen Schaltkreisen umzusetzen.»

Die Studie wurde finanziell unterstützt durch den Schweizerischen Nationalfonds SNF, die Manfred Stärk Stiftung und das European Human Brain Project. Für die Arbeit konnten die European Fenix Infrastructure resources sowie das Insel Data Science Center in Bern genutzt werden.

________________________________________

Berner Beitrag am Human Brain Project

Das Human Brain Project (HBP) ist das grösste Projekt für Hirnforschung in Europa und gehört zu den umfangreichsten Forschungsprojekten, die jemals von der Europäischen Union finanziert wurden. An der Schnittstelle von Neurowissenschaften und

Informationstechnologie erforscht das HBP das Gehirn und seine Krankheiten mit Hilfe hochmoderner Methoden der Informatik, Neuroinformatik und künstlichen Intelligenz und treibt damit Innovationen in Bereichen wie Brain-Inspired Computing und Neurorobotik voran. Langfristiges Ziel des Human Brain Projects ist die Schaffung einer dauerhaften gemeinsamen Plattform für Neurowissenschaften und Computing in Form einer europäischen Forschungsinfrastruktur, die über den Projektzeitraum 2023 hinaus bestehen bleibt.

Das Institut für Physiologie der Universität Bern ist am HBP mit den Gruppen von Dr. Mihai Petrovici und Prof. Dr. Walter Senn beteiligt. 2020 erhielt es dafür einen Förderbeitrag von 2.5 Mio Euro. Die Gruppen entwickeln theoretische Modelle von Nervenzellen und Netzwerken im Hirn, welche eine Verbindung zwischen Verhalten, Lernen, und den entsprechenden Vorgängen und Veränderungen im Hirn herstellen. Die Theorien sind auf biophysikalischen Begriffen aufgebaut und erlauben eine Rekonstruktion der biologischen Vorgänge in sogenannter neuromorpher Hardware, also in Computer-Chips, die ähnlich funktionieren wie das Gehirn selbst.

Wissenschaftliche Ansprechpartner:

Paul Haider
Institut für Physiologie, Universität Bern
Telefon: +41 31 684 83 49
E-Mail-Adresse: paul.haider@unibe.ch

Originalpublikation:

Paul. Haider, Benjamin Ellenberger, Laura Kriener, Jakob Jordan, Walter Senn, Mihai A. Petrovici: Latent Equilibrium: A unified learning theory for arbitrarily fast computation with arbitrarily slow neurons. Advances in Neural Information Processing Systems 34 (NeurIPS), 2021
https://papers.nips.cc/paper/2021/file/94cdbdb84e8e1de8a725fa2ed61498a4-Paper.pd…