Lição 6 de 7 · 3 min

A pegada ambiental

Treinar e utilizar um modelo consome energia. Algumas escolhas reduzem claramente essa pegada.

ObjetivoExplicar de onde vem a pegada de um uso da IA e aplicar três escolhas mais sóbrias.

Em 2019, um estudo estimou a energia e as emissões do treino de modelos de processamento de linguagem. A experiência mais pesada, uma pesquisa automática de arquitetura, foi estimada em cerca de 284 toneladas de CO₂, da ordem de cinco vezes as emissões de um automóvel americano ao longo de toda a sua vida útil, incluindo o combustível. O estudo lançou um debate duradouro sobre a medição e a publicação destes custos.

Desde então, o essencial do consumo desloca-se para o uso. Cada resposta exige cálculo, e milhões de utilizadores multiplicam esse custo. O tamanho do modelo, a extensão das trocas e a fonte de eletricidade do centro de dados fazem a diferença.

Três escolhas mais sóbrias

  • Utilizar um modelo rápido para as tarefas simples e reservar o maior para as tarefas que o justificam.
  • Anexar os excertos úteis em vez de pastas inteiras, o que reduz o número de tokens processados.
  • Preferir um alojamento cuja eletricidade seja de baixo carbono, o que é o caso da maior parte da produção suíça.

Referências

  1. Strubell, Ganesh, McCallum (2019). Energy and Policy Considerations for Deep Learning in NLP. Proceedings of the 57th Annual Meeting of the ACL, p. 3645–3650. doi.org/10.18653/v1/P19-1355