A pegada ambiental
Treinar e utilizar um modelo consome energia. Algumas escolhas reduzem claramente essa pegada.
ObjetivoExplicar de onde vem a pegada de um uso da IA e aplicar três escolhas mais sóbrias.
Em 2019, um estudo estimou a energia e as emissões do treino de modelos de processamento de linguagem. A experiência mais pesada, uma pesquisa automática de arquitetura, foi estimada em cerca de 284 toneladas de CO₂, da ordem de cinco vezes as emissões de um automóvel americano ao longo de toda a sua vida útil, incluindo o combustível. O estudo lançou um debate duradouro sobre a medição e a publicação destes custos.
Desde então, o essencial do consumo desloca-se para o uso. Cada resposta exige cálculo, e milhões de utilizadores multiplicam esse custo. O tamanho do modelo, a extensão das trocas e a fonte de eletricidade do centro de dados fazem a diferença.
Três escolhas mais sóbrias
- Utilizar um modelo rápido para as tarefas simples e reservar o maior para as tarefas que o justificam.
- Anexar os excertos úteis em vez de pastas inteiras, o que reduz o número de tokens processados.
- Preferir um alojamento cuja eletricidade seja de baixo carbono, o que é o caso da maior parte da produção suíça.
Referências
- Strubell, Ganesh, McCallum (2019). Energy and Policy Considerations for Deep Learning in NLP. Proceedings of the 57th Annual Meeting of the ACL, p. 3645–3650. doi.org/10.18653/v1/P19-1355