Articles en lien

La Défenseure des droits appelle à la vigilance sur l’usage des algorithmes dans les services publics

Attribution de prestations sociales, calcul d’impôts, accès à l’enseignement supérieur : de plus de plus de démarches administratives sont désormais partiellement ou complètement automatisées. Que reste-t-il de l’intervention humaine dans la prise de décision ? Quels sont les effets de ces nouvelles pratiques sur les droits des usagers ?Dans un rapport publié le 13 novembre 2024, la Défenseure des droits, en charge de la défense des droits et libertés des usagers des services publics, étudie l’usage croissant des algorithmes ou systèmes d’intelligence artificielle (IA) dans les services publics français, et notamment dans l’administration centrale.« Malgré un gain d’efficacité dans la prise de décisions », la Défenseure des droits met en garde contre « les atteintes aux droits fondamentaux des usagers ».Une algorithmisation massive des services publicsDans ce rapport, la Défenseure des droits examine l’effectivité de deux garanties particulièrement importantes pour assurer le respect de ces droits : l’intervention humaine dans la prise de décision et la maîtrise des systèmes, et l’exigence de transparence à l’égard des usagers.Afin d’automatiser, d’améliorer ou d’accélérer certaines procédures, l’administration a recours de manière croissante à des algorithmes ou à des systèmes d’IA. Les décisions administratives individuelles, prises par les administrations, peuvent ainsi être partiellement automatisées - si une intervention humaine est prévue - ou entièrement automatisées.Pour la Défenseure des droits, cette évolution est à la fois porteuse de progrès et de risques pour les droits fondamentaux des usagers. Du côté des avantages, dans le cadre d'une appropriation et utilisation des algorithmes et systèmes d’IA qui soit responsable et conforme au droit, ces évolutions peuvent permettre un processus décisionnel plus efficace et mieux informé par le traitement d’une multitude de données, ou encore de contribuer à limiter l’arbitraire et permettre d’atteindre une égalité de traitement, les agents humains n’étant pas toujours neutres et leurs décisions pouvant s’avérer discriminatoires. En revanche, les systèmes algorithmiques font aussi peser des risques majeurs sur les droits et libertés, comme l’Institution l’a souligné dans deux rapports consacrés, l’un en 2020, au risque d’automatisation des discriminations induit par les algorithmes et, l’autre en 2021, à l’impératif respect des droits fondamentaux dans l’utilisation des technologies biométriques.Décisions « partiellement automatisées » : l’intervention humaine comme garantie du respect des droits des usagersLorsqu’une décision administrative est dite « partiellement automatisée », un agent public doit effectuer une action positive, concrète et significative à partir ou à côté du résultat généré par l’algorithme, dans la prise de décision.La Défenseure des droits relève, notamment sur le fondement des réclamations qu’elle reçoit, que cette intervention se révèle parfois inexistante – comme c’est le cas pour la procédure d’affectation en lycée Affelnet, ou encore de Parcoursup – et parfois inconsistante ou biaisée, lorsque les personnes qui interviennent dans la prise de décision individuelle ont tendance à avaliser les résultats produits par le système sans les questionner.Face à ces limites, et à leurs effets sur les droits des usagers des services publics, la Défenseure des droits recommande d’édicter des critères et des modes opératoires obligatoires pour qualifier plus précisément la nature de l’intervention humaine requise.Les risques d'atteintes aux droits fondamentauxBien que les réclamations d'usagers soient encore peu nombreuses, la Défenseure des droits identifie une problématique "systématique" de confiance entre les usagers et l'administration. Elle rappelle, à ce titre, que la transparence de l'action publique doit être envisagée comme un « prérequis pour lutter contre d'éventuels erreurs, abus et discriminations", dans l'esprit de l'article 15 de la Déclaration des droits de l'Homme et du citoyen. Or, les obligations d'information sont parfois peu ou mal respectées en raison de l'opacité des procédures réalisées par ou à l'aide d'algorithmes. Le rapport pointe également le risque de discrimination automatisée. Si, en France, il existe une interdiction de prendre des décisions administratives individuelles sur le fondement de données sensibles (comme la situation économique, le sexe, le lieu de résidence...), le règlement général sur la protection des données (RGPD) reste moins exhaustif et contraignant en la matière. Des exemples, comme celui de l'outil développé par l'agence nationale pour l'emploi en Autriche en 2019, montrent que ce risque de discrimination automatisée a pu se concrétiser, y compris dans le secteur public.Le devoir de transparenceQuand il a pris une décision fondée sur un traitement algorithmique, un service public doit fournir un certain nombre d’informations à l’usager concerné mais également au public. Cette exigence légale de transparence qui découle d’un principe constitutionnel, doit permettre de comprendre certaines décisions pour pouvoir en débattre, voire les contester utilement.Quelles recommandations ?Face aux risques d'atteintes aux droits fondamentaux des usagers, la Défenseure des droits énumère plusieurs recommandations :préciser le cadre (critères et mode opératoire) de l’intervention humaine d’un fonctionnaire lorsqu’une décision des services publics est prise avec l’appui de systèmes algorithmiques ou d’IA ; s'assurer de la disponibilité des compétences en interne et de la bonne maîtrise du fonctionnement de ces systèmes par les agents ; introduire des sanctions en cas de non-respect du droit à l’information des usagers ;consacrer un droit à l’explication des décisions administratives individuelles partiellement ou entièrement automatisées ; soutenir la recherche pour comprendre les effets de ces systèmes et alimenter le débat public ; encourager l’engagement d’associations sur ce sujet, questionner les objectifs et réorienter le système en tenant compte des remontées des usagers. 

• Donnée

• Inclusion

• Citoyenneté

Publié le 26/11/24



[Dossier] Impacts de l’intelligence artificielle sur le travail et l'emploi : nouvel enjeu du dialogue social

Avant-proposL’avenir du travail est l’un des cinq axes majeurs duSommet pour l’action sur l’Intelligence Artificielle qui se tient à Paris les 10 et 11 février 2025.L’ouverture au public de ChatGPT en novembre 2022 a réactivé les inquiétudes et les débats, déjà anciens, sur les effets potentiellement massifs de l’intelligence artificielle (IA) sur l’emploi. La banque Goldman Sachs estimait en mars 2023 à 300 millions le nombre d’emplois pouvant être détruits dans le monde par l’irruption de cette technologie. En avril 2024, le cabinet de conseil McKinsey estimait à plus de 30 % les heures travaillées en Europe et aux Etats-Unis qui pourraient être automatisées, d’ici à 2030 par l’intelligence artificielle générative (IAG).Entre temps, la Commission de l’intelligence artificielle, dans son rapport de mars 2024, dressait un constat plus nuancé des effets de de l’IA sur l’emploi dans les entreprises qui adoptent l’IA, car celle-ci remplace des tâches, et non des emplois. « Il faut toutefois se préparer à la disparition de certains métiers et anticiper la transformation de tous les autres (...) Les conséquences de l’IA sur la qualité de vie au travail dépendront de nos choix collectifs et de la qualité du dialogue social à son égard » concluaient les experts de la commission.Une seule certitude, « l’IA va transformer le marché du travail », conclut le Conseil économique social et environnemental (CESE) dans un avis rendu, en amont du Sommet. Le CESE pointe notamment la vitesse de déploiement de l’IA dans les entreprises en l’absence de concertation. « L’IA doit être interrogée, pensée et intégrée le plus en amont car elle peut constituer un levier d’amélioration des conditions de travail (management, investissement de travail » conclut le CESE a l’issue d’une analyse de controverse. « Un équilibre est à trouver entre les fonctions exercées, les conditions dans lesquelles elles s’effectuent et le sens donné au travail. L’IA ne soit pas être subie, mais être porteuse de progrès tant sociaux qu’économiques. elle constitue un enjeu majeur dont les entreprises, les administrations et des branches professionnelles doivent se saisir « .Le laboratoire de recherche-action LaborIA, créé par le ministère du Travail et l'lnria, pour sa part, publie des résultats inédits sur les interactions humain-machine et les enjeux d’appropriation de l’IA dans le monde du travail.L’Institut de Recherches Économiques et Sociales (IRES) et l’ANACT (Agence nationale pour l'amélioration des conditions de travail), de leur côté, ont travaillé, pendant 18 mois, avec une cinquantaine de participants venus du monde syndical et patronal, des entreprises comme des administrations, à la mise au point d’une « boîte à outil opérationnelle, destinée à favoriser le dialogue social technologique autour de l’IA ». Les effets incertains de l'IA sur l'emploi et la productivité« Les travaux de quantification des effets de l'IA sur la croissance et l’emploi sont encore exploratoires », observait en avril 2024 la Direction générale du Trésor, dans une note de synthèse : « Les effets de l'IA mesurés sur la productivité des entreprises sont pour le moment modestes. Ceci peut s'expliquer par une adoption encore limitée et inégale au sein des entreprises, plus forte pour les grandes entreprises et celles du numérique (...) Les effets théoriques de l'IA sur l'emploi sont incertains ».Selon le Fond monétaire international (FMI), 60 % des emplois des économies avancées pourraient présenter un degré élevé d'exposition à l'IA : 27 % des emplois lui seraient fortement complémentaires, et donc les plus à même de bénéficier de l'IA, tandis qu'elle pourrait se substituer à 33 % des emplois. D'après l'Organisation internationale du travail (OIT) , dans les pays développés, le nombre d'emplois ayant un potentiel d'amélioration par l'IA (13,4 %) est bien plus élevé que celui ayant un potentiel de remplacement par l'IA (5,1 %). Selon d'autres estimations, portant plus précisément sur l'arrivée des modèles de fondation, si 80 % des travailleurs américains pourraient voir au moins 10 % de leurs tâches remplacées, seulement 19 % d'entre eux pourraient voir cette part atteindre au moins 50 %, et feraient donc face à un risque important de substitution. « Ces résultats doivent toutefois être interprétés avec précaution », souligne la Direction générale du Tresor (dans la même note de synthèse). « En effet, l'approche adoptée ne prend en compte ni la courbe de progression de l'IA, ni l'évolution de ses coûts de développement pour les entreprises, alors que ces deux éléments déterminent largement les effets à long terme d'une technologie sur l'emploi ».La Commission de l’intelligence artificielle, en mars 2024, pointait un effet plutôt positif de l’IA sur l’emploi dans les entreprises qui adoptent l’IA, « car celle-ci remplace des tâches, et non des emplois. Dans 19 emplois sur 20, il existe des tâches que l’IA ne peut pas accomplir. Les emplois directement remplaçables par l’IA ne représenteraient donc que 5 % des emplois d’un pays comme la France. Par ailleurs, la diffusion de l’IA va créer des emplois, dans de nouveaux métiers, mais aussi dans d’anciens métiers. Au total, certains secteurs ou certains domaines pourraient connaître des baisses nettes d’emplois, qui doivent être accompagnées par les pouvoirs publics, mais cela n’implique pas que l’IA aura un effet négatif sur l’emploi national en France».Pour dresser ce constat, globalement rassurant, les experts mandatés par le Président de la République s’appuyaient, en particulier, sur une enquête réalisée annuellement par l’Insee, qui permet d’étudier les effets de l’adoption de l’IA par les entreprises en France. Selon cette étude, l’emploi total des entreprises ayant adopté l’IA augmente davantage que dans les entreprises ne l’ayant pas adoptée, alors que ces deux groupes suivaient une tendance antérieure similaire. L’effet résulte principalement de la création de nouveaux emplois, plutôt qu’un maintien plus important d’emplois existants « On constate aussi qu’il n’y a pas d’effets différenciés sur les emplois occupés par des hommes par rapport à ceux occupés par des femmes : l’adoption de l’IA a des effets comparables pour l’emploi masculin et féminin. Cependant, cet effet de l’IA sur l’emploi total n’est pas uniforme d’un métier à l’autre En particulier, certains échelons au sein de l’entreprise ou certains métiers risquent de subir des réductions nettes d’emplois. De fait, les entreprises qui adoptent l’IA pour la gestion administrative ou le marketing voient leur emploi en « professions intermédiaires administratives et commerciales diminuer. » Opportunités et risques de l’intelligence artificielle pour l’entreprise et les salarié.e.s« Les opportunités comme les risques de l’intelligence artificielle (IA) pour le monde du travail sont nombreux. Pour l’instant, leur évaluation scientifique reste limitée », observent Flore Barcellini et Moustafa Zouinar (Centre de recherche sur le travail et le développement- CRTD, Cnam) et Nathalie Greenan (Centre d'études de l'emploi et du travail-CEET).Les promesses associées à l'IA reposent essentiellement sur trois hypothèses, observent les auteur.ice.s.« Du côté du travail, l'IA est supposée augmenter les capacités humaines dans la réalisation de certaines tâches, contribuer à réduire les erreurs en fiabilisant des tâches ou soulager les humains de tâches perçues comme "sans valeur ajoutée", notamment lorsqu'elles sont répétitives ou pénibles ».L'IA ouvre également des opportunités en termes d'emploi et de structure de production. « Le développement de la technologie, sa mise en œuvre et l'innovation de produits ou services qu'elle stimule devrait générer des nouveaux emplois. Certains voient même dans l'industrie 4.0 incluant l'IA une opportunité de réindustrialisation pour l'économie européenne ».L'IA, enfin, répondrait également en partie à des enjeux de pénurie de main-d'œuvre dans un contexte de vieillissement de la population. Cette vision se retrouve dans le projet de société 5.0 promue par les pouvoirs publics japonais.Ces hypothèses, toutefois, « n'ont fait l'objet que de peu d'évaluations scientifiques solides en contexte réel. Par ailleurs, l'IA actuelle relève principalement de l'IA dite "faible", spécialisée dans des tâches précises, et non d'une IA "forte" ou "générale" capable de remplacer entièrement l'intelligence humaine dans tous les domaines ».Au-delà des promesses, des risques majeursla substitution partielle ou totale de l'humain, impliquant la perte de son expertise et de ce qui donne du sens à son travail : « ceci se manifeste à travers l'automatisation croissante des tâches, y compris celles considérées comme "cognitives" et basées sur l'expérience et l'expertise des professionnels (par exemple les tâches de diagnostic médical) ».la subordination croissante aux systèmes algorithmiques et aux contraintes des organisations du travail : « elle se manifeste à travers le développement du management algorithmique ou la rigidification des règles organisationnelles du travail lié à l'introduction de l'IA ».le mirage de la collaboration entre humains et SIA : « la collaboration humain-IA renvoie à l'idée qu'humains et SIA ne seraient pas substituables mais pourraient travailler en collaboration, augmentant leurs capacités réciproquement – les SIA augmentant potentiellement les capacités humaines et les humains "formant" les SIA avec des données massives structurées, en fournissant des explications sur ses actions et en surveillant son bon fonctionnement ».« L'analyse critique des résultats empiriques récents obtenus par la recherche en économie et en ergonomie invite à questionner une forme de "solutionnisme", qui conduit à voir les technologies comme des "remèdes simples et sur étagère" à des problèmes complexes comme des enjeux de santé, de performance ou de réduction des coûts » concluent les auteur.ice.s.Pour favoriser l'émergence de « scénarios vertueux d'usages des IA », les auteur.ice.s pointent deux éléments centraux :Les usages des SIA doivent s'inscrire dans des formes de travail soutenables « qui conjuguent la performance des organisations avec la préservation de la santé des travailleurs et le développement de leurs compétences tout au long de la vie professionnelle ».« L'introduction de l'IA doit améliorer la qualité des connaissances produites et faciliter l'exploration de savoirs nouveaux sur le processus de production des entreprises et le travail des professionnels ». Une appropriation prudente de l'IA générative par les entreprisesA ce jour, les entreprises optent pour une appropriation prudente de l’IA générative, par expérimentations successives.Selon la dernière enquête de conjoncture de Bpifrance, basée sur les retours de près de 5 000 entreprises, 31 % des TPE -PME ont eu recours à l’intelligence artificielle générative (IAG) fin 2024, une proportion qui a doublé en un an. En particulier, 8 % l’utilisent régulièrement (3 % fin 2023). 69 % n’y ont à l’inverse pas recours, dont 19 % prévoient toutefois de l’utiliser prochainement. Environ la moitié des dirigeant.e.s sont donc réfractaires à l’usage de l’IAG, une proportion toutefois en nette baisse sur un an (72 % fin 2023). Le principal usage de l’IAG identifié, en forte progression sur un an, est la génération de contenus écrits, sollicité par 68 % des TPE-PME ayant recours à l’IAG (contre 54 % fin 2023). Le deuxième usage le plus courant est la recherche, collecte et analyse de données ou d’informations (57 % d’entre elles). Environ 1/3 d’entre elles l’utilisent pour la traduction (36 %) et la génération de contenus visuels divers (31 %). Les dirigeants de TPE-PME n’ayant pas recours à l’IAG l’expliquent avant tout par l’absence d’identification d’usage au sein de leur entreprise (pour 70 % d’entre eux). Un quart relèvent le manque d’expertise de leurs collaborateur.ice.s ou d’eux-mêmes et 13 % craignent un mauvais usage des outils (partage de données confidentielles de l'entreprise, manque de vérification des contenus produits par les applications, etc.)Selon une étude du groupe Adecco, publiée au printemps 2024, issue d’une enquête auprès de 2 000 chefs d’entreprise dans neuf pays dont la France, la majorité d’entre eux se sentent dépassés par la révolution de l’IA. 57 % des dirigeant.e.s doutent de la capacité de leur propre équipe de direction à saisir les « risques et les opportunités » liés à l’IA. Seulement 43 % de ce groupe ont déclaré avoir mis en place des programmes de formation formels pour améliorer les compétences en matière d’IA, tandis que seulement 50 % d’entre eux ont déclaré fournir des conseils à leurs équipes sur la manière de l’utiliser au travail. Bien que 66 % des dirigeant.e.s reconnaissent l’impact de l’IA dans leur secteur d’activité, seulement 11 % estiment avoir progressé dans la digitalisation de leur entreprise au cours des dernières années (versus 9 % des dirigeant.e.s français et 14 % des dirigeant.e.s américain.e.s). 66 % des dirigeant.e.s (64 % en France), prévoient de recruter à l’externe pour faire face à cette révolution. Cette tendance à l’externalisation des compétences se confirme également pour d’autres métiers comme ceux de la data, pour lesquels 62 % des dirigeant.e.s comptent recruter des expert.e.s hors de l’entreprise plutôt que de privilégier l’interne. Seuls 34 % des dirigeant.e.s ont l’intention de former leurs collaborateur.ice.s à l’utilisation de l’IA. Les dirigeant.e.s français.es se démarquent toutefois en privilégiant la réorientation de leurs collaborateur.ice.s vers d’autres postes en cas d’impact de l’IA sur leur emploi (51 % des dirigeant.e.s français.es contre 46 % au niveau mondial).Les salariés en avance dans la prise en main de l’IA générativeLe rapport du laboratoire d'idées Terra-Nova sur l'IA générative s'attache, à partir des effets positifs de l’IA générative déjà observés sur le développement des compétences professionnelles, la formation professionnelle et l’enrichissement de certaines tâches, à identifier les conditions dans lesquelles cette technologie pourrait devenir un levier d’inclusion et d’amélioration de la qualité de vie au travail (organisation et conditions de travail, montée en compétences, évolution des carrières). Le rapport dresse toutefois le constat d'une certaine réserve des employeurs vis-à-vis de cette technologie. « On parle de shadow GPT dans les entreprises, un phénomène d’appropriation invisible par les salariés, qui montre une appétence ou un besoin très éloigné de l’attentisme ou de la crainte que les employeurs attribuent souvent à leurs équipes. Néanmoins, cette prise en main de l‘outil n’est pas toujours sans risque pour les organisations ».Une enquête menée auprès de plus de 14 000 travailleur.euse.s dans 14 pays en 2023 avait ainsi révélé que les outils d’IA générative pénétraient le monde du travail sans surveillance. Plus d'un quart (28 %) des salarié.e.s interrogé.e.s utilisaient l'IA générative au travail, et plus de la moitié sans l'approbation formelle de leur employeur. Pointant un manque de formation, ils constataient que les politiques d’IA générative de leurs employeurs n'étaient pas clairement définies, voire inexistantes. Aussi importe-t-il, concluent les auteur.ice.s du rapport Terra-Nova, de faire de l’IA générative « un sujet de dialogue social au sein des entreprises, en le faisant progressivement devenir un sujet commun d’accords possibles comme l’emploi des séniors ou le handicap ou en le positionnant, le moment venu, comme un sujet d’accord obligatoire tels que le télétravail ou l’égalité professionnelle entre les femmes et les hommes. Au-delà de l’accompagnement des parcours professionnels des salariés exposés au déploiement de l’IA Gen, ce dialogue social devra également se saisir des conditions d’une gestion éthique du potentiel de cette technologie. Au niveau de l’entreprise comme des branches, il importe également que les partenaires sociaux étudient ensemble, dans le cadre de la Gestion des emplois et parcours professionnels (GEPP), la possibilité de détecter les métiers qui pourraient se trouver en décroissance ou au contraire en tension, qu’ils travaillent sur l’évolution des compétences et qu’ils considèrent l’intérêt de mettre en place un observatoire paritaire des effets de l’IA sur les métiers ». CESE : "Co-construire un nouveau dialogue social est indispensable"A quelques jours du Sommet pour l'action sur l'intelligence artificielle, dans le cadre de sa réflexion globale sur l'IA , le conseil économique, social et environnemental (CESE) a rendu public unavis qui recense les conditions d’une IA « porteuse de progrès tant sociaux qu’économique ».Cet avis part d’un double constat :Côtés salariés, « crainte de perte ou de transformation de leur emploi, sentiment de déclassement, déplacement de la valeur travail sur des taches à forte plus-value mais générant et intensifiant le stress, les salariés sont très méfiants vis-à-vis de l'intelligence artificielle (IA) ».Côté employeurs, « les entreprises sont pour la majorité encore en phase d’apprentissage de l’IA avec des expériences empiriques et des tests sur certaines tâches. Il reste que l'IA bouleverse l'emploi et le travail en induisant un changement complet des organisations qui peut les déstabiliser. »« Les travaux prospectifs menés sur les effets de l’intelligence artificielle atteignent plusieurs limites », observe le CESE : « écarts importants sur les estimations du nombre d’emplois créés ou détruits, sur les CSP les plus touchées ou encore les gains de productivité attendus. Il est essentiel d'acter que les décisions prises aujourd’hui en matière d’emploi, de travail et de formation autant qu’en matière réglementaire détermineront l'impact qu’aura cette technologie tant pour les salariés que pour les employeurs ».Le CESE a analysé par la méthode de controverses les arguments en faveur et en défaveur de l'IA dans le travail et l'emploi. Cette méthode a été appliquée à trois grandes questionsL’IA va-t-elle augmenter les inégalités au travail ?L’IA est-elle un progrès pour l’organisations des conditions de travail et la santé au travail ?L’IA aura-t-elle des impacts positifs sur l’emploi ?Le CESE a identifié des groupes plus spécifiquement touchés : les employés administratifs, qui ont une grande part de tâches automatisables ; les femmes, parce qu’elles sont nombreuses dans les métiers exposés (employé de comptabilité, agent administratif, cadre d’assurance) et les jeunes diplômés qui acquièrent généralement les compétences métiers en commençant par des tâches répétitives, confiées à l’avenir à l’IA.Le dialogue social traite peu l'arrivée de l'IA dans les entreprisesDepuis 2017, un peu moins d’un accord sur mille fait référence à l’IA. Cette situation évolue cependant : entre 2018 et 2023, la proportion des accords signés qui évoquent l’IA a été multipliée par 2,5, notamment dans le cadre de la négociation annuelle obligatoire (NAO).Pour le CESE, il est nécessaire que l'introduction de l'IA dans les entreprises s'opère dans une démarche transparente qui sécurise toutes les parties prenantes. Les transformations des compétences, des emplois et du travail doivent être anticipées lors d'un dialogue constructif.L’analyse de controverses du CESE met en exergue 9 points d’attention, « des thèmes nécessaires à un dialogue constructif entre les salariés, leurs représentants et les employeurs pour une implantation réussie d’un système d’intelligence artificielle (SIA) ».le besoin de clarté sur la démarche de l’entreprise à tous les niveaux : il est important de se poser les bonnes questions et de prôner la transparence à l’introduction de l’IA dans tel service, tel métier, d'anticiper les impacts induits, d'éviter les nombreux biais amplifiés par l’usage de l’IA (genre, handicap, compétences…).les conséquences sur le contenu des emplois : les compétences à remplacer, les nouvelles compétences à acquérir, la formation et l’accompagnement nécessaires ;les conséquences sur l'organisation du travail et du temps de travail ;le suivi de l'impact sur la santé physique et mentale (risque d’intensification) ;les conditions de prévention des biais de l'IA (genre, handicap, âge, et tout type de stéréotype) car l'IA fonctionne à partir de données programmées par l’humain ;le partage de la valeur et des gains de productivité attendus (salaires, temps de travail …) ;la protection des données des salariés, comme des entreprises (éviter la programmation externalisée) ;l’impact environnemental ;l’accès des entreprises (notamment TPE/PME) à cette technologie. Dia-IA : une boîte à outil opérationnelle pour favoriser le dialogue social technologique autour de l’IAPendant 18 mois, une cinquantaine de participants venus du monde syndical et patronal, des entreprises comme des administrations publiques, ont travaillé à la mise au point de Dial-IA, « une boîte à outil opérationnelle, destinée à favoriser le dialogue social technologique autour de l’IA ».Ce projet porté et coordonné par l’Institut de Recherches Économiques et Sociales (IRES), co-financé par l’ANACT (Agence nationale pour l'amélioration des conditions de travail) a impliqué plus particulièrement quatre organisations syndicales : la CFDT, la CFE-CGC, FO Cadres, l’UGICT-CGT.Le projet a débouché sur un manifeste commun et une série de fiches destinées à l'acculturation des parties prenantes :Les basiques de l'IA ;Cartographie des enjeux ;Les situations de développement des SIA.Cette boite à outil passe en revue les diverses raisons qui conduisent salarié.e.s et employeurs à parler et négocier autour de l'intelligence artificielle.Elle propose aussi des « leviers à activer pour mettre en œuvre une démarche de dialogue social technologique » à destination principalement des représentants du personnel. Cette boite à outil propose aussi des « leviers à activer pour mettre en œuvre une démarche de dialogue social technologique » à destination principalement des représentants du personnel.Lire la suite : Les travailleur.euse.s face à l’intelligence artificielle : quel dialogue social ? IA dans le monde du travail : une enquête et des recommandations pour une « IA capacitante »Après deux années d’enquêtes, le laboratoire de recherche-action LaborIA, créé par le ministère du Travail et l'lnria, publie des résultats inédits sur les interactions humain-machine et les enjeux d’appropriation de l’IA dans le monde du travail.Après avoir recueilli les perceptions croisées des parties prenantes (décideurs, concepteurs, ingénieurs et salariés) dans différents types d'organisations (entreprises privées, administrations, établissements publics), l’enquête dégage trois types de résultats.Le déploiement des SIA dans les organisations n'est pas le point d'aboutissement des processus d'innovation, suivant les phases d'idéation, de prototypage et d'expérimentation. Les interactions humain-machine impliquent des périodes d'apprentissage prolongées et incertaines. Les travailleurs doivent non seulement utiliser les SIA, mais aussi s'engager dans leur entretien, leur amélioration et leur supervision.Un travail souvent peu ou mal reconnu par les organisations pouvant conduire à des désengagements et des échecs à long terme des projets d'IALes échecs et les réussites des projets d'IA sont également tributaires des conflits de priorité dans le travail. L'enquête dresse le constat d'une opposition entre une logique gestionnaire de l'IA, promue par les concepteurs/décideurs, et une « logique du travail réel, propre aux salariés ». La logique gestionnaire voit dans l'IA « un moyen d'optimiser les process, de réduire les risques d'erreurs ou encore d'améliorer les performances et d'accroître la productivité du travail ».Le déploiement de SIA dans les organisations peut avoir des effets inattendus sur l'organisation du travail et le management Parmi ces effets inattendus, une reconfiguration des rôles professionnels et des référentiels de qualification, un questionnement du rôle de manager intermédiaire, polarisation du travail, etc. En outre, si l'IA change le travail (et son organisation), le travail change également l'IA: « différents modes d'organisation de travail - très hiérarchisée/ centralisée ou au contraire laissant plus de place à l'autonomie - influent fortement sur la réception et l'appropriation d'un SIA ».A l'issue de cette enquête, le LaborIA formule six recommandations.Lire la suite: Déploiement de l’IA dans le monde du travail : enquête et recommandations pour une « IA capacitante » L’avenir du travail à l’agenda du Sommet pour l'Action sur l'intelligence artificielleAlors que la "révolution de l’IA" commence à se déployer au sein des organisations, il convient d’appréhender, dès à présent, les impacts, d’en suivre le développement, et de favoriser le partage des connaissances et des meilleures pratiques.Dans ce contexte, le Sommet pour l’Action sur l’IA a pour ambition de faciliter des échanges internationaux sur l’avenir du travail et de s’appuyer sur des initiatives existantes afin :d’améliorer notre compréhension des systèmes d’IA et de leurs usages pour mieux anticiper leurs conséquences sur le monde du travail, la formation et l’éducation ;de promouvoir des déploiements de l’IA au service de la productivité du développement des compétences, et du bien-être au travail.L’ambition des membres mobilisés sur la thématique « Avenir du travail », dans le cadre du Sommet, est de promouvoir une utilisation socialement responsable de l’IA grâce à un dialogue social soutenu. Au-delà du contexte du Sommet pour partager ces informations, un travail a été lancé sur une initiative visant à renforcer les capacités de mesure de l’impact de l’IA et de la gestion algorithmique dans le cadre du travail.L’enjeu est aussi d’encourager les engagements des acteurs économiques et sociaux en faveur d’une IA durable et responsable à l’occasion de ce Sommet, en associant près de 40 représentant.e.s de gouvernements des cinq continents, les partenaires sociaux internationaux, des acteurs académiques et de la recherche, des experts, des acteurs économiques et des entreprises.Les échanges dans le cadre du Sommet devront donc apporter des outils pertinents aux acteur.ice.s qui souhaitent s’engager dans la voie d’une IA responsable dans le champ du travail, en mobilisant notamment des outils qui évitent les discriminations sur le genre dans l’accès à l’emploi, ainsi que le déploiement d’une politique de ressources humaines qui favorise la formation et l’adaptation aux nouveaux besoins engendrés par l’IA.

• Innovation

Publié le 11/02/25



[Dossier] Peut-on rendre l'intelligence artificielle frugale ?

Avant-proposLes systèmes sollicitant une Intelligence artificielle (IA) sont très énergivores. Pour fonctionner, ils ont besoin d’importantes capacités de calcul afin de s’entraîner sur des milliards de données, ce qui nécessite des serveurs puissants.L'essor de l’intelligence artificielle a conduit à une telle hausse de la consommation d’énergie que les centres de données utilisent aujourd’hui plus d’énergie que 92 % des pays du monde. Au-delà de la charge que fait peser cette hausse sur les réseaux électriques, le développement de l’IA menace également les objectifs climatiques.La quête d’une IA plus frugale, plus soutenable ou plus durable, guide de nombreuses recherches et initiatives.Contrairement aux modèles d'intelligence artificielle traditionnels, souvent gourmands en données et en ressources de calcul et donc en électricité, en serveurs et contribuant à réchauffer leur environnement et le climat, l'intelligence artificielle frugale privilégie des approches plus légères et plus efficaces.Cette thématique de frugalité figure à l’agenda du Sommet pour l’action sur l'IA qui se tient à Paris les 10 et 11 février.Une Coalition pour une IA durable a vu le jour dans le cadre de ce Sommet. Plusieurs voix se sont élevées ces derniers mois pour faire de l’IA frugale une priorité, en France, de la stratégie nationale intelligence artificielle :Dans son évaluation de la première phase de la SNIA, la Cour des Comptes voit dans l’IA frugale un « principe fondateur qui doit irriguer de manière concrète l’ensemble des recherches financées par la seconde phase ».Le Conseil économique, social, et environnemental (CESE) dans un avis rendu en septembre 2024, recommande de concentrer les financements publics sur les IA à finalité directement environnementale et sur les IA frugales.L'Office parlementaire d'évaluation des choix scientifiques et technologiques (OPECST), pour sa part, érige l’objectif d’une IA frugale en « impératif ».L’Ecolab du Commissariat Général au Développement Durable (CGDD) et l'Association française de normalisation (AFNOR) ont publié un référentiel pour évaluer et réduire l'effet d'un service d'IA sur l'environnement. L’IA fait exploser la consommation d’énergie« Le constat est sans appel » conclut l'Office parlementaire d'évaluation des choix scientifiques et technologiques (OPECST), dans un rapport très complet (339 pages).« L'IA nécessite des apports considérables d’énergie tout au long de son cycle de vie. Les outils d’IA, notamment ceux d’IA générative qui utilisent des modèles de langage volumineux (LLM) nécessitent beaucoup de puissance de calcul pour l’entraînement de leurs algorithmes et donc d’électricité. Les superordinateurs des géants de l’IA font appel à des dizaines de milliers de puces Nvidia, et ce en amont même de leurs usages, juste pour entraîner les modèles. S’il est estimé que les seuls datacenters consomment aujourd’hui moins de 2 % de l’énergie électrique mondiale, ce chiffre pourrait s’élever à 4 % d’ici la fin de la décennie sous l’effet de l’IA, dont les installations nécessitent 3 à 5 fois plus d’électricité que les datacenters traditionnels. »La plupart des modèles doivent être entraînés sur des centaines, voire des milliers de processeurs graphiques (graphics processing unit, GPU). Ces GPU permettent de réaliser des calculs matriciels rapides mais avec une consommation d’énergie et une production de CO2 proportionnellement élevée. A titre d’exemple, l’entraînement de GPT-3 sur des GPU a nécessité 190 000 kWh, soit  85 000 kg d’équivalents CO2, ce qui équivaut à parcourir environ 700 000 kilomètres en voiture, ou encore un aller retour Terre-Lune.Selon l’Agence internationale de l’énergie (AIE), la consommation électrique mondiale des secteurs de l’IA et des datacenters (ou centres de données) pourrait plus que doubler en 2026, comparée à 2022, et atteindre 1 050 tWh (térawattheure), soit l’équivalent de la consommation électrique du Japon. L’IA frugale se fraye une place dans la stratégie nationale d’intelligence artificielleLe mathématicien, et député, Cédric Villani dans le rapport sur l'intelligence artificielle (IA) s'interrogeait dès 2018 sur la soutenabilité écologique de l’IA. « Il s’agit de penser une IA nativement écologique et de l’utiliser pour mieux penser l’impact de l’humain sur son environnement. Il y a urgence : d’ici 2040, les besoins en espace de stockage au niveau mondial, fondamentalement corrélés au développement du numérique et de l’IA, risquent d’excéder la production disponible globale de silicium. (…) Le verdissement de la chaîne de valeur de l’IA passera nécessairement par des architectures matérielles et logicielles ouvertes (open hardware et open software) qui, en plus d’être un facteur de confiance, peuvent permettre des économies d’énergie significatives ».La première phase (2018-2022) de la stratégie nationale d'intelligene artificielle (SNIA) visait à doter la France de capacités de recherche compétitives. La premiére phase de la SNIA a été financée à hauteur de 1,5 milliard d’euros. Elle a notamment permis la création et le développement du réseau d’instituts interdisciplinaires d’intelligence artificielle (3IA), la mise en place de chaires d’excellence et de programmes doctoraux, ainsi que le supercalculateur Jean Zay.En novembre 2021, une nouvelle phase de la SNIA dite d’« accélération » a été annoncée. L'IA frugale figure parmi les quatre priorités de cette seconde phase, avec l’IA embarquée, l’IA de confiance, et l’IA générative. Cette seconde phase, qui couvre la période 2022-2025, dotée de 2,2 milliards d’euros, prévoit, notamment, de « soutenir 10 projets d’IA de démonstrateurs ou de développement technologique d’IA frugale ».L'IA frugale figure également parmi les axes prioritaires du Programme et Équipements Prioritaires de Recherche (PEPR) Intelligence Artificielle, co-piloté par le CEA, le CNRS et INRIA, avec « l'ambition d’identifier les architectures logicielles, les méthodologies d’apprentissage frugal d’entraînement sur des bases de données maîtrisées et l’optimisation avancée des applications pour rationaliser au maximum la consommation énergétique des systèmes d’IA à base d’apprentissage machine». « L’IA frugale doit irriguer de manière concrète l’ensemble des recherches »Dans sa première phase, la stratégie nationale pour l’IA a donné la priorité à la recherche. Toutefois, selon la Cour des Comptes, les enjeux de frugalité en énergie et en données sont « peu pris en compte dans les travaux de recherche », « au-delà de quelques initiatives prometteuses ». L’usage des algorithmes semble être la dimension la plus intégrée dans les travaux de recherche (voir graphique ci-dessous). Or, la Cour des Comptes voit dans l’IA frugale un « principe fondateur qui doit irriguer de manière concrète l’ensemble des recherches financées par la seconde phase ». « De nombreux efforts restent à mener en matière d’IA frugale et d’IA de confiance, à la fois sur le plan de la mobilisation des chercheurs, de l’affectation des moyens et de la construction indispensable d’un cadre normatif européen » conclut la Cour des Comptes. « Afin de s’assurer la bonne atteinte des objectifs de frugalité dans le développement de l’IA lors de la deuxième phase quel que soit le secteur, il serait souhaitable d’améliorer la mesure et le suivi de l’empreinte écologique de l’IA et de construire un cadre d’actions compatible avec la maitrise de l’empreinte environnementale. » « Concentrer les financements sur les IA à finalité directement environnementale et sur les IA frugales »Le Conseil économique social et environnemental (CESE), pour sa part, dans un avis rendu en septembre 2024, observe que « l’IA est actuellement surtout mise au service de domaines tels que la finance, le marketing ciblé, et désormais l’industrie et non pour entraîner et faire fonctionner des algorithmes d’optimisation bénéfiques à l’environnement (...) Dans ces conditions, il est à craindre que manquent les financements pour les IA conçues directement pour protéger l’environnement ».« Six ans après le rapport Villani, force est de constater que les efforts de recherche n’ont que marginalement porté sur une « IA frugale. Si la Feuille de route intelligence artificielle et transition écologique, publiée en 2021 (par le Ministère de la transition écologique) comporte un volet « frugalité », encore trop peu de projets sont déjà en cours ».L’IA frugale pourrait, selon le CESE, constituer un axe prioritaire du quatrième Programme d’investissements d’avenir 2021-2026 et du plan d’investissement France 2030.Le CESE recommande de concentrer les financements publics sur les IA à finalité directement environnementale et sur les IA frugales.Une évaluation systématique de l’empreinte environnementale des IA devra être réalisée, en exigeant des entreprises concernées la transparence sur la consommation des ressources et en construisant un référentiel d’évaluation. Un tel « Ecoscore » des IA permettra aux utilisateur.ice.s, citoyen.ne.s et entreprises, de choisir les IA les plus sobres (préconisation n°5).Dans le même temps, les ingénieur.e.s devront davantage s’engager dans une démarche d’écoconception des équipements, notamment les terminaux, dont le renouvellement est accéléré par l’IA (préconisation n°6), les usages pourront être responsabilisés par des campagnes d’information sur l’empreinte environnementale des IA et par la possibilité, actuellement inexistante, de déconnecter sur leurs applications les usages d’IA et la collecte de données (préconisation n°7).Enfin, des mesures sont immédiatement applicables aux centres de données. Pour les projets d’implantation de ces datacenters, les pouvoirs publics devront veiller à faire respecter l’objectif de zéro artificialisation nette, notamment par l’utilisation de sites déjà artificialisés (préconisation n°8), le système européen de notation de durabilité de ces centres devra être pris en compte et le principe de récupération de la chaleur fatale devra être intégré (préconisation n°9). 12 démonstrateurs d’IA frugale dans les territoiresDans le cadre de sa feuille de route « IA et transition écologique », le Ministère de la transition écologique soutient depuis 2022 des solutions à base d'IA frugale pour les territoires.L'appel à projets « Démonstrateurs d’IA frugale des territoires» (DIAT) visait des projets d'IA capables de formuler des prédictions et des recommandations pour l'aide à la prise de décision. « Les solutions d'IA doivent être frugales en donnée et en énergie, et il convient de mesurer leur propre impact environnemental qui se doit d'être pensé en amont de la construction des projets ».12 projets ont été sélectionnés dans le cadre de cet appel à projets. La Banque ds territoires, opérateur de l'appel à projets, distingue, parmi les projets retenus, trois approches de la frugalité :Minimiser la collecte de données en visant la qualité plutôt que la quantité, en veillant à ne mettre à jour que les données nécessaires à la finalité ». C’était, notamment le cas du projet IA.rbre qui mobilise l'IA pour aider la métropole de Lyon à détecter les zones "plantables" et utiliser la végétalisation pour créer des zones rafraîchissantes ou lutter contre les phénomènes de ruissellement.Limiter le nombre de capteurs : la frugalité peut aussi être atteinte en exploitant des données qui, à l'origine, ne sont pas des données environnementales. A travers le projet Predict AI'r de l'établissement public de Paris-Ouest La Défense, le consortium va exploiter les données de bornage des téléphones mobiles pour en déduire, grâce à l'IA, les modes de déplacement des utilisateurs et leur impact sur la qualité de l'air. Une stratégie qui pourrait permettre de ne pas multiplier les capteurs d'air tout en étant applicable à n'importe quel territoire, en France comme dans le monde.La frugalité peut aussi s'apprécier par les externalités positives que l'IA génère dans les organisations. À Saclay, le projet Urba (IA) porté par la communauté d'agglomération, promet ainsi d'aider les collectivités franciliennes à réviser leur plan local d'urbanisme (PLU) en intégrant l'ensemble des contraintes normatives en matière de protection de l'environnement, qu'elles soient régionales ou nationales.Ces appels à projets permettent au Ministère de la transition écologique de faire émerger une Communauté des Acteurs de l’IA dans les Territoires (CAIAT) constituée de représentants de territoires, de pôles de compétitivité, d’institutions de recherche, de TPE/startups/PME et d’entreprises. Un référentiel pour mesurer et réduire l’impact environnemental de l’IAL’Ecolab du Commissariat Général au Développement Durable (CGDD) et l'Association française de normalisation (AFNOR) ont publié une méthodologie pour évaluer l'effet d'un service d'IA sur l'environnement. En plus de fournir un premier référentiel opérationnel pour quantifier son impact, le document contient un ensemble de bonnes pratiques à adopter pour tendre vers une IA frugale.La méthode a été élaborée selon une approche globale, c’est-à-dire qu’elle couvre toutes les ressources numériques mobilisées pour permettre de délivrer le service. À commencer par les centres de données (serveurs, baies de stockage, équipement réseau) qui permettent l’hébergement et le traitement des données numériques. Viennent ensuite les infrastructures réseaux qui assurent la transmission des données vers les utilisateurs. Et enfin les terminaux (smartphones, ordinateurs, téléviseurs, autres) dont le rôle est l’exploitation, la réception et la consultation des contenus.L’ensemble du cycle de vie d’un système est pris en compte, depuis sa conception jusqu’à sa mise en service, en passant par son développement. Cela implique une réflexion sur la nécessité même de recourir à l'IA par rapport à des solutions moins consommatrices de ressources. L’IA ne doit pas devenir une réponse systématique à tous les besoins.La frugalité induit ensuite une minimisation des ressources matérielles et énergétiques mobilisées pour créer le système d'IA. Il s'agit notamment de rationaliser les modèles d'IA, de réduire le volume de données utilisées pour les entraîner et d'optimiser les infrastructures qu'ils mobilisent, comme les centres de données. La compression des algorithmes et l'usage de données open source sont également encouragés pour réduire leur l'empreinte carbone.Tout au long du cycle de vie des IA, le référentiel exige ensuite de mesurer l'impact direct de l'IA (énergie consommée, CO2 émis, ressources consommées) mais aussi ses effets indirects, comme l'effet rebond, où une amélioration de l'efficacité peut entraîner une augmentation de la consommation.Enfin, une gouvernance claire doit être mise en place pour s'assurer que les principes de frugalité sont intégrés à chaque étape d'un projet d'IA. Les fournisseurs et producteurs d'IA doivent communiquer de manière transparente sur les actions mises en œuvre pour limiter les impacts, en fournissant des évaluations précises et des méthodologies claires. Une coalition pour une IA durableLancée lors du Sommet d’action sur l’IA à Paris en février 2025, cette coalition, mondiale et multipartite (entreprises, recherche, ONG et associations, investisseurs, secteur public, start-ups et PME) vise à « aligner le développement de l’IA – tant matérielle que logicielle – sur les considérations environnementales. L’objectif de cette coalition est de s’assurer que la dynamique se poursuivra lors d’événements futurs (sommets de l’IA, COP et autres rassemblements internationaux), avec d’autres autorités nationales et organisations internationales ».Pour garantir que l’IA contribue positivement aux objectifs environnementaux et climatiques et puisse être déployée à grande échelle, les membres de la coalition se concentrent sur les points suivants :Méthodes et mesures standardisées pour mesurer les impacts environnementaux de l’IA ;Analyse complète du cycle de vie : « les systèmes d’IA doivent être évalués tout au long de leur cycle de vie au moyen d’une analyse multicritère. Pour les logiciels, cela comprend la collecte de données, le développement de modèles, la formation, le déploiement et la maintenance. Pour le matériel, cela implique les pratiques d’extraction et d’exploitation minière, le transport, la consommation d’énergie et d’eau et la gestion des déchets, y compris la production de déchets électroniques » ;Cadres de reporting et de divulgation : « des mécanismes devraient être mis en place pour permettre aux entreprises de rendre compte de manière transparente de l’impact environnemental de leurs produits et services d’IA » ;Priorisation de la recherche sur l’IA durable : « Le secteur privé et la communauté de recherche devraient donner la priorité au développement de technologies d’IA avec des algorithmes optimisés pour réduire la complexité informatique et minimiser l’utilisation des données » ;Des efforts qui garantissent que l’infrastructure et les logiciels d’IA soient construits et entretenus conformément aux engagements environnementaux mondiaux.

• Donnée

• Innovation

• Ecologie

Publié le 07/01/25