L’impronta ambientale
Addestrare e usare un modello consuma energia. Alcune scelte riducono nettamente questa impronta.
ObiettivoSpiegare da dove viene l’impronta di un uso dell’IA e applicare tre scelte più sobrie.
Nel 2019 uno studio ha stimato l’energia e le emissioni dell’addestramento di modelli di elaborazione del linguaggio. L’esperimento più pesante, una ricerca automatica di architettura, era stimato a circa 284 tonnellate di CO₂, nell’ordine di cinque volte le emissioni di un’auto americana sull’intera durata di vita, carburante compreso. Lo studio ha avviato un dibattito duraturo sulla misurazione e la pubblicazione di questi costi.
Da allora, la maggior parte del consumo si sposta verso l’uso. Ogni risposta richiede calcolo, e milioni di utenti moltiplicano questo costo. La dimensione del modello, la lunghezza degli scambi e la fonte di elettricità del centro dati fanno la differenza.
Tre scelte più sobrie
- Usare un modello rapido per i compiti semplici e riservare il più grande ai compiti che lo giustificano.
- Allegare i passaggi utili anziché cartelle intere, il che riduce il numero di token elaborati.
- Preferire un hosting alimentato da elettricità a basse emissioni di carbonio, come la maggior parte della produzione svizzera.
Riferimenti
- Strubell, Ganesh, McCallum (2019). Energy and Policy Considerations for Deep Learning in NLP. Proceedings of the 57th Annual Meeting of the ACL, p. 3645–3650. doi.org/10.18653/v1/P19-1355