Lección 6 de 7 · 3 min

La huella ambiental

Entrenar y utilizar un modelo consume energía. Algunas decisiones reducen claramente esta huella.

ObjetivoExplicar de dónde viene la huella de un uso de la IA y aplicar tres opciones más sobrias.

En 2019, un estudio estimó la energía y las emisiones del entrenamiento de modelos de procesamiento del lenguaje. El experimento más pesado, una búsqueda automática de arquitectura, se estimaba en unas 284 toneladas de CO₂, del orden de cinco veces las emisiones de un coche estadounidense durante toda su vida útil, combustible incluido. El estudio abrió un debate duradero sobre la medición y la publicación de estos costes.

Desde entonces, la mayor parte del consumo se desplaza hacia el uso. Cada respuesta requiere cálculo, y millones de usuarios multiplican ese coste. El tamaño del modelo, la longitud de los intercambios y la fuente de electricidad del centro de datos marcan la diferencia.

Tres opciones más sobrias

  • Utilizar un modelo rápido para las tareas sencillas y reservar el más grande para las tareas que lo justifican.
  • Adjuntar los pasajes útiles en lugar de carpetas enteras, lo que reduce el número de tokens procesados.
  • Preferir un alojamiento cuya electricidad sea baja en carbono, como ocurre con la mayor parte de la producción suiza.

Referencias

  1. Strubell, Ganesh, McCallum (2019). Energy and Policy Considerations for Deep Learning in NLP. Proceedings of the 57th Annual Meeting of the ACL, p. 3645–3650. doi.org/10.18653/v1/P19-1355