Das menschliche Gehirn als Vorbild 

Die Entwicklung von künstlicher Intelligenz (KI) hat in den letzten Jahren enorme Fortschritte gemacht, doch stoßen herkömmliche digitale Rechner immer mehr an ihre Grenzen, insbesondere beim Energieverbrauch. Neuromorphe Chips, die den biologischen Prozessen des Gehirns nachempfunden sind, bieten eine vielversprechende Lösung, um diesen Herausforderungen zu begegnen. Im Januar 2022 veröffentlichte ein Forscherteam unter der Leitung von Friedemann Zenke und Johannes Schemmel eine bahnbrechende Arbeit, die zeigt, wie KI-Algorithmen erfolgreich auf neuromorphe Chips adaptiert werden können.

Surrogate Gradient Learning: Eine Neue Methode für Neuromorphe Chips

Um die Komplexität der Hardware-Fehlanpassungen zu bewältigen, entwickelten die Forscher eine neue Trainingsmethode namens "surrogate gradient learning". Diese Methode basiert auf der Minimierung einer Verlustfunktion und ähnelt dem maschinellen Lernen, bei dem der Algorithmus lernt, Fehler zu reduzieren. Bei neuromorphen Chips, wie dem BrainScaleS-2, wird der Vorwärtsdurchlauf direkt auf dem Chip durchgeführt, während der Rückwärtsdurchlauf auf einem herkömmlichen Computer stattfindet. Dieser Ansatz ermöglicht es, Ungenauigkeiten in den analogen Bauteilen auszugleichen und so eine präzise Bilder- und Spracherkennung zu ermöglichen.

Energieeinsparung durch Neuromorphe Systeme

Die Ergebnisse der Forscher zeigen, dass der auf dem BrainScaleS-2-Chip trainierte Algorithmus eine fast identische Genauigkeit (nahezu 99 %) wie herkömmliche neuronale Netze auf digitalen Rechnern erreicht. Besonders beeindruckend ist jedoch der Energieverbrauch: Der analoge Chip benötigt nur ein Tausendstel der Energie eines Standardprozessors. Damit stellt diese Technologie einen wichtigen Schritt in Richtung energieeffizienter KI dar, die sich zunehmend an den natürlichen Prozessen des Gehirns orientiert.

Herausforderungen und zukünftige Entwicklungen

Obwohl der Fortschritt beeindruckend ist, gibt es noch Herausforderungen. Aktuell muss der Trainingsprozess auf digitalen Computern erfolgen, bevor die Ergebnisse auf die neuromorphen Chips übertragen werden. Langfristig soll der gesamte Prozess, vom Training bis zur Ausführung, direkt auf den Chips stattfinden. Dies erfordert jedoch die Entwicklung einer neuen Generation von Chips, die vollständig autonom arbeiten können. Die Arbeit von Zenke und Schemmel legt jedoch bereits jetzt den Grundstein für diese Entwicklung und weist den Weg in eine energieeffizientere Zukunft der KI.

Quellen:

- McCallum, A., et al. (2019). Energy and policy considerations for deep learning in NLP. ArXiv. 

- Zenke, F., et al. (2019). Surrogate gradient learning in spiking neural networks. ArXiv. 

- Zenke, F., et al. (2022). Surrogate gradients for analog neuromorphic computing. Proceedings of the National Academy of Sciences, 119(6).