Lezione 6 di 7 · 3 min

L’impronta ambientale

Addestrare e usare un modello consuma energia. Alcune scelte riducono nettamente questa impronta.

ObiettivoSpiegare da dove viene l’impronta di un uso dell’IA e applicare tre scelte più sobrie.

Nel 2019 uno studio ha stimato l’energia e le emissioni dell’addestramento di modelli di elaborazione del linguaggio. L’esperimento più pesante, una ricerca automatica di architettura, era stimato a circa 284 tonnellate di CO₂, nell’ordine di cinque volte le emissioni di un’auto americana sull’intera durata di vita, carburante compreso. Lo studio ha avviato un dibattito duraturo sulla misurazione e la pubblicazione di questi costi.

Da allora, la maggior parte del consumo si sposta verso l’uso. Ogni risposta richiede calcolo, e milioni di utenti moltiplicano questo costo. La dimensione del modello, la lunghezza degli scambi e la fonte di elettricità del centro dati fanno la differenza.

Tre scelte più sobrie

  • Usare un modello rapido per i compiti semplici e riservare il più grande ai compiti che lo giustificano.
  • Allegare i passaggi utili anziché cartelle intere, il che riduce il numero di token elaborati.
  • Preferire un hosting alimentato da elettricità a basse emissioni di carbonio, come la maggior parte della produzione svizzera.

Riferimenti

  1. Strubell, Ganesh, McCallum (2019). Energy and Policy Considerations for Deep Learning in NLP. Proceedings of the 57th Annual Meeting of the ACL, p. 3645–3650. doi.org/10.18653/v1/P19-1355