La huella ambiental
Entrenar y utilizar un modelo consume energía. Algunas decisiones reducen claramente esta huella.
ObjetivoExplicar de dónde viene la huella de un uso de la IA y aplicar tres opciones más sobrias.
En 2019, un estudio estimó la energía y las emisiones del entrenamiento de modelos de procesamiento del lenguaje. El experimento más pesado, una búsqueda automática de arquitectura, se estimaba en unas 284 toneladas de CO₂, del orden de cinco veces las emisiones de un coche estadounidense durante toda su vida útil, combustible incluido. El estudio abrió un debate duradero sobre la medición y la publicación de estos costes.
Desde entonces, la mayor parte del consumo se desplaza hacia el uso. Cada respuesta requiere cálculo, y millones de usuarios multiplican ese coste. El tamaño del modelo, la longitud de los intercambios y la fuente de electricidad del centro de datos marcan la diferencia.
Tres opciones más sobrias
- Utilizar un modelo rápido para las tareas sencillas y reservar el más grande para las tareas que lo justifican.
- Adjuntar los pasajes útiles en lugar de carpetas enteras, lo que reduce el número de tokens procesados.
- Preferir un alojamiento cuya electricidad sea baja en carbono, como ocurre con la mayor parte de la producción suiza.
Referencias
- Strubell, Ganesh, McCallum (2019). Energy and Policy Considerations for Deep Learning in NLP. Proceedings of the 57th Annual Meeting of the ACL, p. 3645–3650. doi.org/10.18653/v1/P19-1355