L’empreinte environnementale
Entraîner et utiliser un modèle consomme de l’énergie. Quelques choix réduisent nettement cette empreinte.
ObjectifExpliquer d’où vient l’empreinte d’un usage de l’IA et appliquer trois choix plus sobres.
En 2019, une étude a estimé l’énergie et les émissions de l’entraînement de modèles de traitement du langage. L’expérience la plus lourde, une recherche automatique d’architecture, était estimée à environ 284 tonnes de CO₂, de l’ordre de cinq fois les émissions d’une voiture américaine sur toute sa durée de vie, carburant compris. L’étude a lancé un débat durable sur la mesure et la publication de ces coûts.
Depuis, l’essentiel de la consommation se déplace vers l’usage. Chaque réponse demande du calcul, et des millions d’usagers multiplient ce coût. La taille du modèle, la longueur des échanges et la source d’électricité du centre de données font la différence.
Trois choix plus sobres
- Utiliser un modèle rapide pour les tâches simples et réserver le plus grand aux tâches qui le justifient.
- Joindre les passages utiles plutôt que des dossiers entiers, ce qui réduit le nombre de jetons traités.
- Préférer un hébergement dont l’électricité est peu carbonée, ce qui est le cas de l’essentiel de la production suisse.
Références
- Strubell, Ganesh, McCallum (2019). Energy and Policy Considerations for Deep Learning in NLP. Proceedings of the 57th Annual Meeting of the ACL, p. 3645–3650. doi.org/10.18653/v1/P19-1355