Lektion 6 von 7 · 3 Min.

Die Umweltbilanz

Ein Modell zu trainieren und zu nutzen verbraucht Energie. Einige Entscheidungen verringern diese Bilanz deutlich.

ZielErklären, woher die Umweltbilanz einer KI-Nutzung stammt, und drei sparsamere Entscheidungen anwenden.

2019 schätzte eine Studie den Energieverbrauch und die Emissionen beim Training von Sprachverarbeitungsmodellen. Das aufwendigste Experiment, eine automatische Architektursuche, wurde auf rund 284 Tonnen CO₂ geschätzt, etwa das Fünffache der Emissionen eines amerikanischen Autos über seine gesamte Lebensdauer, Treibstoff inbegriffen. Die Studie löste eine anhaltende Debatte über die Messung und Veröffentlichung dieser Kosten aus.

Seither verlagert sich der Grossteil des Verbrauchs auf die Nutzung. Jede Antwort erfordert Rechenleistung, und Millionen von Nutzenden vervielfachen diese Kosten. Die Grösse des Modells, die Länge des Austauschs und die Stromquelle des Rechenzentrums machen den Unterschied.

Drei sparsamere Entscheidungen

  • Für einfache Aufgaben ein schnelles Modell verwenden und das grösste den Aufgaben vorbehalten, die es rechtfertigen.
  • Die relevanten Passagen beifügen statt ganzer Dossiers, das verringert die Zahl der verarbeiteten Token.
  • Ein Hosting mit kohlenstoffarmem Strom bevorzugen, wie es für den Grossteil der Schweizer Stromproduktion zutrifft.

Quellen

  1. Strubell, Ganesh, McCallum (2019). Energy and Policy Considerations for Deep Learning in NLP. Proceedings of the 57th Annual Meeting of the ACL, p. 3645–3650. doi.org/10.18653/v1/P19-1355