Un modèle IA émet autant CO2 que cinq voitures pendant leurs vies

Des chercheurs de l'Université du Massachusetts ont calculé les émissions du cycle de vie pour la formation de plusieurs grands modèles d'IA. Ils ont découvert que le processus peut générer plus de 284 tonnes d'équivalent de CO2, soit près de 5 fois que pour la durée de vie d'une voiture américaine moyenne, (y compris la production de la voiture elle-même).

Les chercheurs se sont concentrés sur le processus utilisé par un modèle IA pour apprendre et gérer une langage humain.

Au cours des 2 dernières années, les développements dans le domaine ont franchi plusieurs étapes, par exemple la traduction automatique. Le fameux code d’IA, GPT-2, a aussi réussi à écrire des articles convaincants basés sur fausses informations.

Mais, ces progrès nécessité des modèles de plus en plus volumineux et particulièrement des énormes bases de données. Ces méthodes consomment par conséquence des grandes quantités d’énergie.

 Les chercheurs examinaient 4 modèles qui ont beaucoup progressé: Transformer, Elmo, Bert et GPT-2. Tout en mesurant la consommation d’énergie, chacune de ces modèles était formée pendant une journée. Ce processus était ensuite converti en équivalant d’émissions de CO2 selon le mix dans le réseau électrique aux États-Unis.

Le résultat montre que le coût en forme de consommation d'électricité et les émissions associés augmentaient proportionnellement à la taille des modèles. Lorsque des mesures supplémentaires ont été prises pour affiner la précision, la consommation d’énergie a littéralement explosé. Certains de ces ajustements étaient aussi minimaux qu’ils coûtaient beaucoup plus que l’amélioration de la performance.

Il n’est pas seulement les codes pour IA qui sont des grands consommateurs d’énergie. L’internet, avec ces énormes salles de serveurs, cause autant d’émissions de CO2 que l'aviation mondial, actuellement environ de 2% mais en forte progression.

L’extraction de bitcoins et d’autres monnaies cryptographiques, est un de ces activités énergivores. Pour 2017 il a été estimé que leurs implémentations ont généré 69 millions tonnes de CO2 par an. C’est plus que l'ensemble des émissions en Suède, 56 millions tonnes, et 15%, 476 million de tonnes, de la France.