Kohlenstoff-Fußabdruck der KI wächst – aber mögliche Lösungen am Horizont

Von Illuminem Briefings

Das Potenzial der KI zur Bewältigung der Klimakrise ist beträchtlich, doch ihr hoher Energiebedarf, vor allem während der Trainings- und Inferenzphasen großer Sprachmodelle wie GPT-3, trägt zu den Kohlenstoffemissionen bei. Innovative Ansätze wie Spiking Neural Networks (SNN) und Technologien für lebenslanges Lernen (L2) werden entwickelt, um den CO2-Fußabdruck der KI zu verringern – so das Portal Illuminem am 19.02.2024.

Rauch und CO2-Emissionen in Mainz – Foto © Gerhard Hofmann, Agentur Zukunft

Gepulste neuronale Netze (kurz: SNN, englisch: Spiking neural networks) sind eine Variante künstlicher neuronaler Netzwerke, die näher an biologischen neuronalen Netzen sind als beispielsweise das mehrlagige Perzeptron. Gepulste neuronale Netze werden auch als Netze der dritten Generation bezeichnet. Das erste wissenschaftliche Modell von gepulsten neuronalen Netzen wurde 1952 von Alan Lloyd Hodgkin und Andrew Huxley eingeführt. Dieses Modell beschreibt, wie Aktionspotentiale starten und durch das Netz propagiert werden. Die Pulse werden im Allgemeinen jedoch nicht direkt von Neuron zu Neuron weitergeleitet, sondern über chemische Substanzen (sogenannte Neurotransmitter) im synaptischen Spalt.

Künstliche neuronale Netze (kurz: KNN englisch artificial neural network, ANN), sind Netze aus künstlichen Neuronen. Sie sind Forschungsgegenstand der Neuroinformatik und stellen einen Zweig der künstlichen Intelligenz dar. Künstliche neuronale Netze haben, ebenso wie künstliche Neuronen, ein biologisches Vorbild. Man stellt sie natürlichen neuronalen Netzen gegenüber, die eine Vernetzung von Neuronen im Nervensystem eines Lebewesens darstellen. Bei KNNs geht es allerdings mehr um eine Abstraktion (Modellbildung) von Informationsverarbeitung, weniger um das Nachbilden biologischer neuronaler Netze und Neuronen, was eher Gegenstand der Computational Neuroscience ist. Es ist jedoch zu beobachten, dass die Grenzen zwischen diesen Teildisziplinen zunehmend verschwinden, was auf die nach wie vor große Dynamik und Interdisziplinarität dieses Forschungszweigs zurückzuführen ist.

Der Kontext: Der Energiebedarf von KI-Modellen, insbesondere von künstlichen neuronalen Netzen (ANN), ist in die Höhe geschnellt, was KI zu einem bedeutenden Verursacher von CO2-Emissionen macht.

  • ANNs, die für die meisten KI-Systeme grundlegend sind, benötigen aufgrund ihrer komplexen Berechnungen viel Rechenleistung und Speicherplatz.
  • Im Gegensatz dazu bieten SNNs eine energieeffiziente Alternative, indem sie die energieeffiziente Verarbeitung des Gehirns durch die Verwendung von Spikes zur Informationsübertragung nachahmen, was zu einem potenziell geringeren Energiebedarf und geringeren Emissionen führt.

Warum dies für den Planeten wichtig ist: Die Weiterentwicklung von SNNs und L2-Technologien stellt eine vielversprechende Richtung dar, um KI nachhaltiger zu machen: Durch eine deutliche Verringerung des Energieverbrauchs von KI-Systemen können diese Technologien dazu beitragen, die Umweltauswirkungen des wachsenden CO2-Fußabdrucks der KI zu mindern und so einen Beitrag zur Bekämpfung der Klimakrise zu leisten.

Was kommt als Nächstes? Laufende Forschungs- und Entwicklungsarbeiten zu SNNs und L2-Algorithmen zielen darauf ab, diese Technologien der praktischen Anwendung näher zu bringen und einen Weg zu energieeffizienteren KI-Systemen aufzuzeigen. Zusammen mit anderen Fortschritten wie dem Quantencomputing birgt dieser Fortschritt das Potenzial, die Umweltauswirkungen der KI erheblich zu verringern. „SNNs können bis zu 280 Mal energieeffizienter sein als ANNs“, unterstreicht das erhebliche Potenzial für Energieeinsparungen bei KI-Operationen.

Statistisches Beispiel: Das Training von GPT-3 verursachte 502 Tonnen Kohlenstoff, was den jährlichen Emissionen von 112 benzingetriebenen Autos entspricht.

->Quellen: