Par Jean-René Couasnon
- L'entraînement intensif de grands modèles de langage, comme GPT-3 et ses 175 milliards de paramètres, génère une empreinte carbone comparable à celle de cinq voitures américaines sur toute leur durée de vie.
- Des techniques plus sobres (régression, clustering, apprentissage par transfert sur des modèles open source déjà entraînés) permettent de réduire fortement l'impact environnemental de certains usages de l'IA.
- L'industrie progresse vers une IA plus raisonnée, avec l'objectif de puces éco-conçues et de performances énergétiques se rapprochant de celle du cerveau humain, autour de 20 watts.
Une empreinte carbone significative pour l'entraînement des modèles
L'entraînement intensif de modèles d'IA, comme ceux utilisés pour le traitement du langage naturel, nécessite une puissance de calcul importante, générant une empreinte carbone comparable à celle de cinq modèles de voitures américaines sur toute leur durée de vie. Cette donnée illustre l'impact environnemental considérable de modèles comme GPT-3 d'OpenAI, qui a nécessité des mois d'entraînement et compte 175 milliards de paramètres.
Des pistes de sobriété existent
Toutes les implémentations d'IA ne sont pas aussi gourmandes en énergie. Des techniques comme la régression ou le clustering, utilisées dans divers domaines (finance, services publics), réduisent le besoin de réentraînement intensif, limitant ainsi l'impact environnemental. L'utilisation de modèles open source pré-entraînés et l'apprentissage par transfert permettent d'ajuster ces modèles à des besoins spécifiques sans entraînement additionnel, réduisant la consommation d'énergie.
L'industrie de l'IA progresse vers une ère d'IA raisonnée, où la durabilité devient une priorité, avec le développement de puces éco-conçues et l'utilisation de modèles déjà entraînés.
Un enjeu pour nos métiers de conseil
Nos métiers sont et seront impactés par l'IA. Mais de la même façon que nous sélectionnons des investissements durables pour nos clients, nous devrons sélectionner nos outils pour réduire l'impact carbone de notre activité de conseil.
Ce contenu a été rédigé avec l'assistance d'un outil d'intelligence artificielle générative (ChatGPT). Les chiffres cités sur l'empreinte carbone des modèles d'IA évoluent rapidement avec les progrès techniques du secteur.